Posts tagged ‘Data Center Cooling’
UNIVERSAL CONTAINMENT; HOT OR COLD AISLE CONTAINMENT
סגירת המעבר הקר (או סגירת המעבר החם) היא הכרחית היום בחוות שרתים. ללא הפרדה ראויה מובטח בזבוז עצום במיזוג האוויר, דבר המוביל לעלות גבוהה ברכש (מיותר) של מערכות מיזוג אוויר ובעלות גבוהה (מאוד) של חשמל. זאת בנוסף לבעיות חום המשפיעות לרעה על תפקוד חוות השרתים, גמישותה ועל הרציפות העסקית.
בסגירת המעבר אנו מגיעים לאופטימיזציה של מיזוג האוויר בזכות הפרדה של אוויר קר וחם, מניעה של אוויר חם החוזר לקדמת השרתים, תיעול כל האוויר הקר אל השרתים ומניעת "בריחתו" ( דבר הקרוי BYPASS AIR ) ומבטיחים את יעילות מחליף החום ביחידת המיזוג. לא ניכנס לזה עכשיו.
בעולם נהוג היום יותר ויותר לסגור את המעבר הקר. לא ניכנס לדיון מדוע בפוסט זה. עם זאת נהוג להבדיל בין שני סוגי מתקנים:
BROWNFIELD :מתקן קיים, חוות שרתים עובדת שאותה אנו רוצים לשדרג ולטייב, אם אפשר, ללא השבתה. במתקן כזה סגירת המעבר הקר היא האופציה היחידה כמעט. למעט הקמת POD חדש המבוסס על יחידות קירור מים.
GREENFIELD : מתקן חדש . כאן ניתן לבצע הפרדת אוויר קר וחם במגוון שיטות. דוגמאות: ארונות ארובה, סגירת מעבר קר עם או בלי יחדות קירור מים, סגירת מעבר חם ועוד.
מאחר וסגירת המעבר קשה יותר כאשר אין בידינו את כל ארונות ה IT שטרם נרכשו עדיין, ולחלופין יש לנו ארונות בגבהים שונים וברוחב שונה, פותחה על ידי חברת פנדויט ( PANDUIT ) שיטה אוניברסלית לסגירת מעברים. ראו:
טעות קטנה בדטה סנטר..
ידיעה קטנה בעיתונות תפסה את עיני: במשך כשעה פחות או יותר, משתמשים ברחבי העולם לא הצליחו להעלות פוסטים ולסמן לייקים בפייסבוק בשל בעיה בדטה סנטר של פייסבוק. מפייסבוק נמסר ש"מוקדם יותר היום הבוקר (שעון ארה"ב), בזמן ביצוע עבודות תחזוקה, חווינו אירוע אשר מנע מחלק מהמשתמשים להעלות פוסטים לפייסבוק לפרק זמן קצר. פתרנו את הבעיה במהירות והמערכת שבה לפעול בתפקוד מלא. אנו מתנצלים על אי הנוחות אשר נגרמה".
למרות היותי חובב גאדג'טים וטכנולוגיה אינני מנוי בפייסבוק, כנראה בשל הפרעת אישיות כלשהי. נפילת פייסבוק אם כך לא הפריעה לי מאוד במישור האישי, שגרת יומי לא הופרעה ומצב רוחי לא נפגע. אך דבר מה קטן נוסף לכד את עיני: מניית פייסבוק נפלה עקב האירוע ב- 0.6%. לא נורא, נכון? ובכן, בשווי שוק של כ-100 מיליארד דולר, 0.6% זה 600 מיליון דולר. קצת הרבה בשביל טעות טכנאי בזמן תחזוקה.
ידוע ש 60% מהאירועים המביאים לנפילה של חוות שרתים הם תוצאה של בעיות בתכנון ותפעול של התשתית הפיזית, כלומר, מיזוג אוויר , חשמל ותשתית תקשורת. לא סוד הוא שבישראל מרבית חוות השרתים מיושנות ברמת התשתית וסובלות מרעב תקציבי מתמשך. זה מתבטא במיזוג אוויר לא יעיל, בניהול כבילה בעייתי, בחוסר מוכנות לרעידות אדמה, ובמערכות חשמל מאולתרות. התוצאה הישירה היא סיכון לרציפות העסקית. נשאלת השאלה אם כך, האם ניתן לכמת את הסיכון?
רבות נכתב על הערכת העלות של זמן דמימה ( downtime ) של חוות שרתים. הערכת העלות לשעה של זמן דמימה נעה בין אלפי דולרים לארגונים קטנים ועד לעשרות מיליונים לשעה עבור ארגונים פיננסיים גדולים. הערכת הנזק מחושבת בדרך כלל על בסיס ערך העסקאות שעורך הארגון בתקופת זמן יחד עם הערכה גסה של עלות אובדן מוניטין ואיבוד לקוחות. המקרה של פייסבוק מאיר צד נוסף של הבעיה. הנזק לבעלי המניות עקב הפגיעה במחיר המניה. לא אתפלא אם העלות של מניעה אפקטיבית של הבעיה שהתעוררה בפייסבוק היא אלפית מהנזק שספגו בעלי המניות. 600 מיליון דולר כבר אמרנו?
לא אחת אני שותף לתסכולו של סמנכ"ל הטכנולוגיות בארגון, אשר מזהה את הסיכון אך לא מצליח להשיג תקציב למזעור הסיכונים. מקרה פייסבוק מאפשר למנמ"ר לפנות למנכ"ל ולחברי הדירקטוריון ולשאול אותם: " מה יקרה למחיר המניה, אם חוות השרתים, חוט השדרה של העסק שלנו, תידום לשעה? יום? שלושה ימים?"
סקר ביצועים וסיכונים בחוות שרתים הכרחי כדי לחשוף בעיות שיכולות לסכן את הרציפות העסקית. בחברת אלכסנדר שניידר אנו מבצעים סקר של חדרי שרתים ומזהים
1. סיכונים לרציפות העסקית
2. פוטנציאל לשיפור ביעילות האנרגטית ובהוצאות התפעול
3. דרכים למקסם את התשתית הקיימת כדי לתמוך בעוד מערכות ( Hidden Capacity )
שוק חדרי השרתים צומח במהירות
מחקר של Datacenter Dynamics של שוק מרכזי המחשוב ( דאטה-סנטר) העולמי העלה את הנתונים המעניינים הבאים
1. ההשקעה בחדרי מחשב גדלה ב 2012 ב 22.1% מ 86 מיליארד דולר ל 105 מיליארד דולר
2. צפי הצמיחה בהשקעה בחדרי שרתים הוא 14.5% ב 2013
3. עיקר הצמיחה בהשקעה הוא במערכות אלקטרומכניות כגון מערכות מיזוג אוויר וחשמל
4. צמיחה חדה נרשמה גם בהשקעה במערכות ניהול
5. קניות מערכות IT כגון מחשוב, אחסון ותקשורת לתחום זה צמחו ב 16.7% ב 2012
6. תשתית ההספק (בגיגה-וואט) צמחה ב 63% ב 2012 ותצמח ב 17% ב 2013
7. 18% מארונות השרתים צורכים יותר מ 10 קילוואט לארון ( צפיפות גבוהה)
8. 33% מארונות השרתים צורכים בין 5 ל 10 קילוואט בארון (צפיפות בינונית)
9. שטח רצפה גדל ב 8.3% ב 2012 וצפוי לצמוח ב 19% נוספים ב 2013.
עד כאן הנתונים. הפרשנות שלי למספרים היא כדלקמן
בעוד חלקים נרחבים של המשק נמצאים במיתון, שוק חדרי השרתים נמצא בגידול מואץ. הסיבות העיקריות לכך הן
1. צמיחה תלולה במס' המשתמשים ביישומים ומכשירים ניידים יצרה מציאות שבה המשתמש מצפה לשירות רציף בכל תנאי ובכל זמן מה"ענן". הארגונים חייבים לבנות תשתית המאפשרת מענה ללא מגבלות CAPACITY
2. העליה התלולה בצריכת החשמל ובעלות צריכת החשמל יצרה כורח מיידי להתייעלות תפעולית. זו באה לידי ביטוי בשדרוג ובנייה של חדרי שרתים יעילים באנרגיה.
3. לקחים שהופקו משלל אסונות וניתוח סיכונים אילצו ארגונים רבים להשקיע ביתירות לצורך רציפות עסקית
בישראל מגמות אלו החלו אך עדיין לא במימדים שנראים בשאר המקומות בעולם. הארגונים הישראלים ברובם הגדול עדיין לא יישמו הלכה למעשה את תוכניות הרציפות העסקית שלהם ובוודאי לא הפנימו את התועלת הכלכלית האפשרית בהתייעלות אנרגטית.
יעילות אנרגטית של חדרי שרתים: PUE 2.0
יעילות אנרגטית של חדרי שרתים: PUE & PUE 2.0
המדד הקרוי PUE ( קיצור של Power Utilization Effectiveness ) נוצר על מנת לתת למנהלי מרכזי מחשוב מדד להשוואה של יעילות אנרגטית של מתקני חוות השרתים. אך עם הזמן הובן שמדד זה משאיר מקום לפרשנות ואף למניפולציה של הנתונים. בפוסט זה נסביר מהו PUE, מה חסרונותיו ויתרונותיו, ומהי הגרסה המתקדמת יותר PUE 2.0 .
PUE הוא יחס בין שני מספרים. במונה: צריכת החשמל בקילוואט של כל מתקן חדר השרתים ( IT, מיזוג אוויר ומערכות הספק ותאורה). במכנה: צריכת החשמל רק של ה IT.
(PUE = (Total datacenter power in) /( IT load Power
היחס 1.0 הוא יחס תיאורטי שלא ניתן להשגה אך יש לשאוף להתקרב אליו. כאשר היחס הוא 3.0, המשמעות היא שעל כל וואט שצורכות מערכות ה IT, המתקן צורך עוד 2 וואט של תקורה
(בעיקר, אך לא רק מיזוג אוויר) /
התקורה היא שם נרדף לבזבוז שעולה לארגון כסף רב. לדוגמא, מתקן שבו ה IT צורך מגה-וואט אחד, ישלם לחברת החשמל בישראל 8 מיליון ₪ בשנה ב PUE=1.5 או 16 מיליון ₪ בשנה ב PUE=3.0 . הבדל של 8 מיליון ₪ בשנה. בחדר שרתים קטן שם העומס של ה IT הוא רק 100 קילוואט ההבדל יהיה 800,000 ₪ בשנה. גם זה כסף. תכפילו ב20 שנה של חיי המתקן ותבינו את המשמעות הכלכלית לארגון.
בישראל מרבית חוות השרתים "מצטיינות" ב PUE שבין 2.5-3.5 . בארגונים נאורים שלהם חוות שרתים, כבל החלו לפעול על מנת להבין ולחסוך. במרבית הארגונים בישראל, ההנהלה עדיין לא מודעת לחיסכון העצום שכל כך קל להשיגו.
נחזור ל PUE. היחס כפי שהוא מוגדר ניתן למניפולציה צינית. לדוגמא, מדידה בימי החורף הקרים ובשעה בה מערכות ה IT בשיא העומס יתנו מספר טוב יותר. עוד דרך היא להשמיט מהחישוב את ה NOC ומערכות IT תומכות. או לכבות מערכות יתירות בעת המדידה.
בנוסף, היחס לא נועד להשוואה בין מתקנים ובין חברות. אין להשוות חדר שרתים באיסלנד לזה בתל אביב. כמו כן, אין להשוות מתקן tier3 שלו יתירות רבה (יתירות מביאה לצריכת חשמל גבוהה יותר) לבין מתקן Tier 1 . כמו כן, לחדר שרתים המועמס ב 20% מהקיבולת שלו יהיה PUE פחות טוב ממתקן זהה המועמס ב 80% מהקיבולת שלו.
ולכן, אין להשוות בין PUE של שני מתקנים. הPUE נועד לתת למנהלי חוות השרתים מדד ברור ליעילות האנרגטית של חוות השרתים ע"מ שיוכלו לשפר את אותו מתקן. כמו בגולף, הוא מתחרה בעצמו ומנסה לשפר את התוצאה שלו.
הגרסה המתקדמת ביותר של הגדרת ה PUE מגדירה 4 רמות. PUE0, PUE1, PUE2, PUE3
PUE0 – דומה מאוד ל PUE ה"ישן". הוא מודד את הצריכה בקילוואט במספר נקודות זמן שנלקחו לאורך תקופה של לפחות שנה. צריכת ה IT נמדדת ביציאת האל-פסק.
PUE1 – כאן אנו מדברים על יחס ממדידה שנלקחה לאורך שנה שלמה. סה"כ קילו-וואט-שעה שנצרכו על ידי המתקן כולו חלקי סה"כ קילו-וואט שעה שנצרכו על ידי ה IT כפי שנמדד ב UPS
PUE2 – דומה מאוד ל PUE1 מלבד העובדה שהמדידה של צריכת החשמל נעשית בארונות החשמל שבין ה IT לאל-פסק. אין הבדל משמעותי ואני לא רואה בזה חשיבות.
PUE3 – זה היחס המדויק ביותר והוא מורכב מ סה"כ קילוואט שעה שנצרך על ידי חוות השרתים כולה במשך שנה חלקי קילוואט שעה שנצרך על ידי מערכות ה IT כפי שנמדדו על יד פסי השקעים ( Rack PDU ) המנוטרים ( יש כאלו שקוראים להם מבוקרים או חכמים). זה הדבר האמיתי.
כיצד מודדים? קל מאוד . המדידה והבקרה של צריכת ה IT קלה מאוד עם פסי שקעים מבוקרים כגון אלו של Raritan והמדידה נעשית באמצעות תוכנה שנקראת PowerIQ. אפשרות נוספת היא PDU של חברת Server Technology ותוכנה הנקראת SPM. יש עוד פתרונות נוספים.
7 דרכים למיזוג אוויר יעיל אנרגטית בחדרי שרתים.
מאז אוגוסט 2011 עלו מחירי החשמל בישראל ביותר מ30% (נכון לפברואר 2012). למי שמנהל חדרי שרתים, עובדה זו כואבת במיוחד משום שעלויות צריכת החשמל של חדרי המחשב הגיעו ל 20-25% מהוצאות התפעול השוטפות. בשל הדרך בה תוכננו חדרי השרתים או בשל הדרך בה הם מנוהלים, חלק משמעותי מצריכת האנרגיה מקורה בבזבוז בעיקר בשל חוסר יעילות בדרכי מיזוג האוויר.
בארגונים נאורים בהם חשבון החשמל של חדרי השרתים נבחן בדקדקנות, העלייה בצריכת החשמל הביאה לבחינה מחודשת של דרכי התכנון והניהול של מרכזי המחשוב. בארגונים פחות נאורים, חשבון החשמל משולם על ידי גוף תפעול מרכזי שאינו מסוגל לנתח את הנתונים והתוצאה היא בזבוז שעלותו מאות אלפי ואף מיליוני שקלים בשנה, תלוי בגודל המתקן. לדוגמא: במתקן של ארגון בינוני שבו כ 400 שרתים, צריכת החשמל של השרתים תהיה כ 200 קילוואט לערך. צריכת החשמל הכוללת של המתקן תכלול גם את צריכת החשמל למיזוג אוויר ולמערכות תשתית נוספות. בחדר מחשב בגודל זה המופעל היטב ( PUE=1.5 ) חשבון החשמל הכולל יהיה כ מיליון וחצי ₪ בשנה. בחדר מחשב בגודל דומה המנוהל ללא מתן חשיבות לצריכת החשמל ( PUE=3 ) , ויש רבים כאלו בישראל, חשבון החשמל יעלה כ 3 מיליון ₪, בזבוז של מיליון וחצי ש"ח בשנה או 15 מיליון ₪ בעשר שנים. להסבר על PUE
למי שלא בחן את הנושא מקרוב עד כה, אציין רק שעלות החשמל הנדרשת להפעיל ולקרר שרת מתקדם לאורך 3 שנים גבוהה יותר מעלות השרת עצמו.

בארונות INRACK אלו טמפרטורת מיים קרים של 18 מעלות
בפוסט הקודם תיארתי 10 נוהגים מתקדמים של חדרי שרתים ( datacenter Best Practices ) . הפעם אתמקד בנושא מיזוג האוויר בחדרי שרתים.
רבים ממנהלי חדר המחשב יודעים שעליהם ליישם מעברים קרים וחמים ולזווד פנלים עיוורים בארונות שרתים כדי למנוע חזרת אוויר חם אל קדמת הארון. על כן, לא אעסוק בנושאים טריוויאלים מעין אלו. אלא אתמקד בנוהגים מתקדמים אשר לא רבים בישראל נתנו עליהם את הדעת:
ניתן לחסוך בצריכת החשמל למיזוג בן 30% ל 50% על ידי הפרדה מוחלטת של אוויר קר וחם ועל ידי העלאת טמפרטורת העבודה. הפרדה מוחלטת של אוויר קר וחם מתבצעת על ידי הכלה ( Containment ) והעלאת טמפרטורת העבודה מתבצעת על ידי העלאת טמפרטורת המים הקרים למיזוג ( CW ) מ 7 מעלות ל 16 ואף 18 מעלות צלזיוס. נסביר…
1. הפרדה מוחלטת של אוויר קר וחם על ידי הכלה ( Containment ) של האוויר הקר ( Cold Containment ) או הכלה של האוויר החם ( Hot Containment ) . בחדרי שרתים הממוזגים בשיטת קירור החדר ( בדרך כלל על ידי מערכות ליברט ) הכלת האוויר הקר מתבצעת על ידי סגירת המעבר הקר או על ידי הכלת החום באמצעות ארונות ארובה. אגב, בשיטה הראשונה (סגירת מעבר קר) ניתן להגיע ל 15 קילוואט לארון שרתים ועל ידי ארונות ארובה ניתן להגיע ל KW 30 לארון שרתים.
2. שימוש במערכות קירור ממוקד הקרוי בדרך כלל "ארונות קרור מים" . קירור ממוקד זה יכול להיות מפוזר בשורות ( in row cooling ) או בתוך ארון השרתים באופן הקרוי InRack Cooling.
3. בשיטת קירור השורה ניתן לסגור את המעבר הקר או את המעבר החם. שתי השיטות טובות אם כי רבים ממש שונאים לעבוד במעבר חם סגור בשל אי הנוחות שבכך. קיימת שיטה היברידית אשר נקראת שיטת החדר הקר ( cool room concept ) אשר לה אייחד מאמר נפרד בקרוב והיא מיישמת את כל היתרונות של סגירת המעבר החם ללא החסרונות.
4. העלאת טמפרטורת העבודה. עד לאחרונה נהגו המתכננים לעבוד עם צ'ילרים שקררו את המים הקרים ל 7 מעלות צלזיוס. העלאת טמפרטורת המים הקרים ל 16 ואף 18 מעלות מספקת חיסכון בצריכת החשמל של כ 3% לכל מעלה. בחישוב זריז מדובר על חיסכון של כ 30% רק משינוי טמפרטורת העבודה.
אגב, העלאת טמפרטורת העבודה תאפשר גם לקבל כ 25% יותר קיבולת קירור מהצ'ילר אם כי נתון זה משתנה ממודל למודל.
חשוב מאוד: כדי ליישם שיטה מתקדמת זו הלכה למעשה יש לבחור מערכות In Rack או InRow המסוגלות לספק את קיבולת הקירור המקסימאליות בטמפרטורות CW אלו. ישנן מערכות, רחמנא ליצלן, שבטמפרטורות אלו של 16 מעלות מיים קרים קיבולת הקירור שלהן יורדת ב 50% ואך יותר. מיצרנים כאלו מומלץ להישמר.
5. מדידה ובקרה – אי אפשר לנהל ולייעל את מה שאינו נמדד. חיישנים וכלי תוכנה מתקדמים מודדים את יעילות צריכת האנרגיה ( PUE ) ומידת השימוש בתשתיות ומאפשרים קבלת החלטות ניהוליות מושכלות. לדוגמא: חישוב קל של החזר השקעה של IT Refresh .
6. מודולאריות בתכנון – השקעה בציוד תשתית לעומס מקסימאלי כבר בתחילת חיי חדר המחשב היא מתכון לבזבוז ולשיתוק היכולת לאמץ טכנולוגיות חדשות עם הזמן. תכנון מודולארי מאפשר מדרוג ההשקעה לאורך שנים ( pay as you grow ) וחיסכון משמעותי ב TCO. מודולאריות מאפשרת גם שימוש אופטימאלי בטכנולוגיות מתקדמות ובמוצרים חדישים.
7. ניהול בזמן אמת באמצעות כלי תוכנה – קצת עצוב שהתשתיות הפיזיות של חוות השרתים בישראל מנוהלות בדרך כלל בגיליונות אקסל. קיימים כלי תוכנה ( SPM, DC Track, Power IQ ) קלים לשימוש המאפשרים ניצול מיטבי של ההשקעה בתשתית, הצגת לוח מחוונים ( Dashboard ) בזמן אמיתי והעיקר: יכולת תגובה מהירה לשינויים.
ארגון אשר יישם את שבעת הנוהגים המתקדמים הללו ויפנים את העקרונות שעיצבו אותם, ישפר משמעותית את יעילות מיזוג האוויר של חדרי השרתים בכ 30%-50% , ויוכל לחסוך לארגון כספים רבים שישמשו אותו להקצאת משאבים להתעצמות.
תכנון חדרי מחשב וחוות שרתים

זה הסטנדרט המומלץ של אלכסנדר שניידר
למנמ"ר המתכנן את מרכז המחשוב ( datacenter ) החדש של הארגון, יש הזדמנות לנצל נוהגים מתקדמים ( Best Practices ) בתכנון חדרי שרתים, ולשפר את התשתית עליה נשען מערך ה IT תוך חיסכון בעלות כוללת. להלן "עשר הדיברות"
1.TCO – הגדירו את רמת היתירות הנדרשת וחשבו את העלות כוללת ל 10 עד 15 שנים. השקעה ראשונית גדולה במס' אחוזים יכולה לחסוך עשרות אחוזים ב TCO.
2.בחירת השרתים גם על פי צריכת האנרגיה – עלות התפעול (בעיקר אנרגיה חשמלית) של שרת לאורך שלוש שנים גבוהה יותר מעלות השרת עצמו. בחרו בחוכמה שכן השוני בין השרתים הוא משמעותי.
3.וירטואליזציה – שימוש בוירטואליזציה מאפשר חיסכון משמעותי ברכש חומרה ובעלות התפעול של חוות השרתים. עם זאת, צריכת האנרגיה של שרת פיזי שעליו 5-20 שרתים וירטואליים גבוהה משמעותית מבעבר ויש צורך בחשיבה עדכנית בתשתית החשמל ומיזוג האוויר.
4.צפיפות מחשוב גבוהה – העלות הכוללת של חדר שרתים עם צפיפות מחשוב גבוהה ( high density ) נמוכה משמעותית ממרכזי מחשוב המפזרים את המחשוב על שטח רצפה נרחב. עם זאת, נדרשת חשיבה מקצועית וחדשנית להתמודדות עם כבילה צפופה, תשתית חשמל ומיזוג אוויר לצפיפות גבוהה. כדאי להתגבר על הנטייה להיצמד לשיטות עבר – החיסכון הוא משמעותי.
5.מודולאריות בתכנון – השקעה בציוד תשתית לעומס מקסימאלי כבר בתחילת חיי חדר המחשב היא מתכון לבזבוז ולשיתוק היכולת לאמץ טכנולוגיות חדשות עם הזמן. תכנון מודולארי מאפשר מדרוג ההשקעה לאורך שנים ( pay as you grow ) וחיסכון משמעותי ב TCO. מודולאריות מאפשרת גם שימוש אופטימאלי בטכנולוגיות מתקדמות ובמוצרים חדישים.
6. מיזוג אוויר חדשני וממוקד. המיזוג הממוקד מאפשר התמודדות עם כל עומס, חיסכון באנרגיה חשמלית וניצול מיטבי של ההשקעה בתשתית. עם זאת, היזהרו ממוכרנים שממוקדים רק במה שכדאי להם למכור . ישנן מגוון שיטות כגון קירור פנים-ארון, קירור חדר, קירור שורה ולכל אחת מאלו ואריציות שונות. מה נכון? כל פרויקט לגופו על פי הדרישות, הצרכים והאילוצים. טיפ חשוב: בחדרים בהם מיזוג האוויר מבוסס על צ'ילרים: דרשו ממתכנן מיזוג האוויר לתכנן לפי טמפ' מים קרים של לפחות 12 מעלות צלזיוס. רצוי אף יותר. זה יביא לחיסכון עצום בצריכת החשמל ותקבלו הרבה יותר מהמערכות שהתקנתם.
7. הפרדה מוחלטת של אוויר קר ואוויר חם – אחת הסיבות העיקריות לבזבוז העצום במיזוג אוויר ובחשמל בחוות שרתים הוא חוסר ההפרדה בין אוויר קר לחם. שימוש בפנלים עיוורים הוא חובה בסיסית עם החזר השקעה של יומיים בערך. הפרדה בין המעבר הקר למעבר החם יכולה גם היא להביא לחיסכון משמעותי. גם כאן יש כר נרחב של אפשרויות: סגירת מעבר הקר (עם או בלי מערכות קירור מים), סגירת המעבר החם ( רק בשילוב מערכות קירור מים), שיטה היברידית ועוד.
8.ניהול בזמן אמת באמצעות כלי תוכנה – קצת עצוב שהתשתיות הפיזיות של חוות השרתים בישראל מנוהלות בדרך כלל בגיליונות אקסל. קיימים כלי תוכנה ( SPM, DC Track, Power IQ ) קלים לשימוש המאפשרים ניצול מיטבי של ההשקעה בתשתית, הצגת לוח מחוונים ( Dashboard ) בזמן אמיתי והעיקר: יכולת תגובה מהירה לשינויים.
9. מדידה ובקרה – אי אפשר לנהל ולייעל את מה שאינו נמדד. חיישנים וכלי תוכנה מתקדמים מודדים את יעילות צריכת האנרגיה ( PUE ) ומידת השימוש בתשתיות ומאפשרים קבלת החלטות ניהוליות מושכלות. לדוגמא: חישוב קל של החזר השקעה של IT Refresh .
10. הסמכה מבצעית של חדרי שרתים – טבען של תקלות בתכנון וביצוע של חדרי שרתים חדשים, הוא שהן מתגלות זמן רב לאחר העלייה לאוויר עם הצמיחה הטבעית בעומס. תקלות אלו גורמות לזמן דמימה ( downtime ) של חדרי שרתים קריטיים לארגון. ההסמכה המבצעית של אלכסנדר שניידר בוחנת תחת עומס אמיתי את כל מערכות חדר השרתים: מיזוג אוויר, חשמל , יתירות ויעילות אנרגטית. הבדיקה היא באמצעות אמולטורים של חומרה , חיישנים מתקדמים ותוכנת בקרה ייעודית. ההסמכה המבצעית מורידה דרמטית את ההסתברות לתקלות תשתית ומגלה את כל הבעיות לפני הכנסת מערכות האמת של ה IT לחדר השרתים החדש כאשר כל המערכות עדיין באחריות וכל המתכננים והקבלנים עדיין זמינים.
ארגון אשר יישם את עשרת הנוהגים המתקדמים הללו ויפנים את העקרונות שעיצבו אותם, ישפר משמעותית את יכולת חוות השרתים להגיב לצרכי הארגון, ויוכל לחסוך לארגון כספים רבים שישמשו אותו להקצאת משאבים להתעצמות.
אנו מקיימים ימי עיון לעיתים קרובות בנושא תכנון וניהול חדרי שרתים. למעוניינים כתבו לטלי שרון tali@schneider.co.il
פורום Datacenter: ביקור בחדר המחשב של אינטל
יום ה DATACENTER באינטל שפורסם קודם לכן נדחה לחודש מרץ.
נוציא הודעה בנושא כשיסגר התאריך המדויק.
יגאל
מיגון: חדרי המחשב יורדים אל מתחת לאדמה
תופעה ישראלית יחודית היא המגמה הגוברת של בניית חדרי שרתים תת קרקעיים. ארגונים מהסקטור העיסקי והציבורי בונים או מתכננים חדרי שרתים ממוגנים מתחת לפני הקרקע.הסיבה הברורה היא איום הרקטות והטילים. ישראל כולה בטווח של טילי האוייב. ברור לכל שפגיעה בחדר שרתים של ארגון חיוני למשק ,גם אם לא תגרום לאבדות בנפש, תגרום לנזק כלכלי עצום. בארגונים בסקטור העסקי, בעלי המניות עושים לעצמם חישוב פשוט: מה יקרה למחיר המניה אם יושבת חדר השרתים שלנו בגלל פגיעה קרובה או ישירה של רקטה או טיל. התוצאה: ארגונים רבים מחפשים לשכור או לרכוש נדל"ן המצוי מתחת לפני הקרקע. לי ידוע לפחות על שלושה פרויקטים גדולים שנמצאים בתהליך מתקדם בימים אלו בהיקף כולל של מעל 100 מיליון שקלים. חברת אלכסנדר שניידר מובילה שניים מהם.
לא מזמן אירחתי מלקוחות מחו"ל שהתפלאו על המגמה הייחודית הזו. ובכן, סיברתי את אוזניהם, בכל מקום ממגנים את הדטה סנטר כנגד איומי הייחוס הרלבנטים: הוריקן בחוף המזרחי של ארה"ב, טורנדו במרכז ארה"ב, רעידות אדמה במערב ארה"ב, דרום אמריקה, יפן, סין וטורקיה. שיטפונות בחלקים נרחבים של אירופה וכן הלאה. בישראל מתעלמים לפי שעה מהסיכון של רעידות אדמה אך מתייחסים ברצינות לסיכון הטילים. עניין של אופי.
מאחר וכאומה אנו לא מצטיינים בתכנון לטווח ארוך, ונדל"ן מסוג זה אינו מצוי בידי הארגונים, הרי שיש למצוא אותם בשוק החופשי. החדשות הטובות הן שיש די הרבה נדלן בדמות חניונים וקומות מרתף פנויות ומחירן יחסית זול משום שהן אינן ראויות לאכלוס משרדי. הרשויות בד"כ משתפות פעולה אם נדרש שינוי ייעוד אם כי נדרש לעניין עו"ד טוב. ועורכי דין, ברוך השם, לא חסר במדינתנו.
לפני שחותמים חוזה שכירות ארוך טווח, כדאי לבדוק כמה דברים: זמינות של תשתיות לאספקת חשמל שתידרש לאורך חיי המתקן, האפשרות להתקין תשתיות למיזוג אוויר, מיגון מפני הצפה, תשתית תקשורת , דרכי גישה ועוד גורמים רבים שיש לבדוק באמצעות סקר מקצועי.
אחד המאפיינים של קומות תת קרקעיות זמינות בדרך כלל הוא מגבלה של גובה. לאלו שלא חיים את עולם חדרי השרתים, נקצר ונאמר שהגובה נדרש לצורך מעבר של ספיקת אוויר מספקת לצרכי מיזוג אוויר. גובה של 4 עד 5 מטר נחשב מספק. במרבית החניונים והנדלן התת קרקעי הגובה המצוי הוא מתחת ל 3 מטר. אל דאגה, באמצעים הטכנולוגיים של היום ניתן לבנות חדר שרתים נפלא בגובה זה באמצעות קירור בצמידות גבוהה הקרוי בפי העם, קצת בטעות, קירור מים.
אז אם אתה הבעלים של שטח נדלני תת קרקעי שניסית להשכיר ללא הצלחה במשך שנים, דע לך שבהנחה שהתקיימו הגורמים הנ"ל מהיום אתה הבעלים של אתר תשתית לדטה סנטר.
בתמונה חדר שרתים מתקדם תת קרקעי של אחד מלקוחותינו. למרות המיקום באתר "קלאוסטרופובי" החדר הוא אחד המתקדמים בישראל. כל ארון שרתים מתוכנן לשאת עומס של עד 15 קילוואט. יחידות מיזוג האוויר תוצרת Knurr Emerson מוצבות בין הארונות לפי עיקרון קירור שורה Inrow .
והערה אישית: לאחר הפסקה ארוכה של כתיבה בבלוג, ולאחר שקיבלתי לא מעט הערות נבזיות מידידי בתעשייה על כך שהפסקתי לכתוב, אני חוזר למוטב ומחדש את הרענון השוטף של בלוג חדרי השרתים.
גל של חדשנות שוטף את תחום חוות השרתים
גל של חדשנות שוטף את טכנולוגיות הדטה סנטר בעולם ובישראל. תחום חדרי המחשב היה תמיד פעיל ברמה המסחרית אך מנומנם ברמה הטכנולוגית. לפני שארחיב, חשוב להבהיר שטור זה מתמקד בטכנולוגיות של התשתית הפיזית של חדרי המחשב. לא הייתי מציין זאת אלמלא ידעתי שרבים מחברי בתחום ה IT מעדיפים לרכז את משאביהם וזמנם בשכבות IT אחרות, גבוהות יותר, ושנושאים כגון מערכות ניהול חוות שרתים ומיזוג אוויר ממוקד שלא לדבר על חיסכון בצריכת חשמל גורם להם לעייפות ולנמנום. מאחר ואיני רוצה להשחית את זמנו של אף אחד, ואיני שואב הנאה רבה מלהטיף לאוזניים ערלות, אני מזהיר מראש: מי שלא מעוניין להתעמק בנושא הדטה סנטר ומחשוב ירוק, זה הזמן לעבור הלאה.עתה כשנותרנו מיעוט קטן (אך איכותי!) אפשר להתעמק בדברים.
לפני מס' חודשים נועדתי עם חברה המתכננת חדר מחשב חדש שיעלה לאוויר, לפי תוכניותיהם, ב 2015. אמנם אני מצדיע לחברות ישראליות החושבות לטווח ארוך, אך הדבר גרם לי להרהר בלוחות הזמנים הנהוגים לעיתים בתעשייה שלנו. פרויקט הקמה של אולם מחשוב הוא פרויקט בפני עצמו. יצירת אומנות יחידנית אשר הכול בה מפותח מאפס ונתפר כולו לפי צרכי הלקוח. נכון? לא בהכרח.
מאחר וחברה מקימה לעצמה חדר מחשב אחת לכל 5 עד 20 שנים, הרי כשארגון מבקש להקים לעצמו חדר מחשב חדש, זו התנסות חדשה לרוב מובילי הפרויקט. אל צוות המפעל חוברים יועצים וקבלנים חיצוניים שלהם יותר ניסיון (אנו מקווים) ונוצר צוות פרויקט אשר אין לו ניסיון משותף. הצוות מתחיל את התכנון מאפס (דבר משתלם ביותר למתכננים) ונשען על ידע לא מושלם ולא עדכני. זו הסיבה העיקרית לכך ששלב התכנון אורך בדרך כלל חודשים רבים (במקרים אחדים גם מספר שנים), כמו גם שלב הבניה, ושהפרויקט ברובו מבוסס על ניסוי וטעייה ולא על נוהגים מיטביים.
גם בהתחשב בעבודה הקשה של צוות הפרויקט, עלות התמשכות הפרויקט והטעויות בהחלטות התכנוניות עולים לארגון כסף רב. התוצאה הסופית היא חדר מחשב ייחודי באמת אשר אין זהה לו והדבר נזכר כאן לא כמחמאה (אולי להיפך) אלא כציון עובדה.
התופעות הללו מתרחשות לא רק בחדרי מחשב הנבנים במבנה חדש על קרקע בתולית (Greenfield data center ) אלא גם בפרויקטים של שדרוג חדרי מחשב ( datacenter upgrade ). גם כאן מדובר בהוספת יכולות של אספקת חשמל ומיזוג אוויר וגם כאן צוותים שהוקמו אד-הוק עובדים כדי לשדרג את חדר מחשב במינימום עלויות והשבתה.
כדי לפתור בעיות מסוג אלו, אחת המגמות המתחזקות בתחום חדרי השרתים היא חדרי מחשב מודולאריים בבנייה טרומית המבוססים על מודולים בתצורות אשר נוסו ונבדקו במפעל ( pre-configured ), וקל להתקינם באתר ולדעת מראש את רמת הביצועים שנקבל ( Pre-engineered ). הרחבה והגדלה ניתנים לביצוע בקלות יחסית.
גם כאן הנוהגים המיטביים מאפשרים היום הוספת מודולים פנימיים ( Pods ) כגון ה SMART AISLE של אמרסון המכילים מס' משתנה של ארונות שרתים, מערכות מיזוג ממוקד ( כגון מערכות קירור ארון או קירור שורה) ומערכות חלוקת חשמל (כגון פסי צבירה של STARLINE ) המורידות באופן דרמטי את זמני התכנון והיישום הנדרשים כמו גם את העלויות.
דוגמא נאה לצורך המחשה היא חדר מחשב הנבנה על פי השמועה על ידי מייקרוסופט באיידהו שבארה"ב. גודל החדר כ MW 5, ענק במושגים ישראליים אך לא במושגי מייקרוסופט, והוא יושלם תוך 28 שבועות מיום חתימת החוזה. החדר בנוי ממודולים של KW 600 כ"א כל מודול בנוי ממספר מבנים טרומיים המובלים לאתר במשאית ומחוברים תוך ימים לתשתית.
גל של חדשנות בחדרי המחשב
גל של חדשנות שוטף את טכנולוגיות הדטה סנטר בעולם ובישראל. תחום חדרי המחשב היה תמיד פעיל מאוד אך מנומנם ברמה הטכנולוגית. בשנים האחרונות חוקי התכנון השתנו לחלוטין וכך גם הנוהגים המיטביים ( Best Practices ).
לפני מס' חודשים נועדתי עם חברה ישראלית המתכננת חדר מחשב חדש שיעלה לאוויר, לפי תוכניותיהם, ב 2015. אמנם אני מצדיע לחברות ישראליות החושבות לטווח ארוך, אך הדבר גרם לי להרהר נוגות בלוחות הזמנים הנהוגים לעיתים בתעשייה שלנו. פרויקט הקמה של אולם מחשוב הוא פרויקט מורכב, יצירת אומנות יחידנית אשר הכול בה מפותח מאפס ונתפר כולו לפי צרכי הלקוח. נכון? לא בהכרח.
אחת המגמות המתחזקות בתחום חדרי המחשב היא מודולים המבוססים על מערכות בתצורות אשר נוסו ונבדקו במפעל ( pre-configured ), וקל להתקינם בחדר המחשב ולדעת מראש את רמת הביצועים שנקבל ( Pre-engineered ). הרחבה והגדלה ניתנים לביצוע בקלות יחסית ( scalable ) .
הגישה החדשה מאפשרת הקמה מהירה יותר, השקעה התחלתית נמוכה יותר, מתקנים יעילים יותר ולכן גם הוצאות תפעול נמוכות יותר לאורך חיי חדר המחשב.
מאחר וחברה מקימה לעצמה חדר מחשב אחת לכל 5 עד 20 שנים, הרי כשארגון מבקש להקים לעצמו חדר מחשב חדש, זו התנסות חדשה לרוב מובילי הפרויקט. אל צוות המפעל חוברים יועצים וקבלנים חיצוניים שלהם יותר ניסיון (אנו מקווים) ונוצר צוות פרויקט אשר אין לו ניסיון משותף. הצוות מתחיל את התכנון מאפס (דבר משתלם ביותר למתכננים) ונשען על ידע לא מושלם ולא עדכני. זו הסיבה העיקרית לכך ששלב התכנון אורך בדרך כלל חודשים רבים (במקרים אחדים גם מספר שנים), כמו גם שלב הבניה, ושהפרויקט ברובו מבוסס על ניסוי וטעייה ולא על נוהגים מיטביים. גם בהתחשב בעבודה הקשה של צוות הפרויקט, עלות התמשכות הפרויקט והטעויות בהחלטות התכנוניות עולים לארגון כסף רב. התוצאה הסופית היא חדר מחשב ייחודי באמת אשר אין זהה לו והדבר נזכר כאן לא כמחמאה (אולי להיפך) אלא כציון עובדה.
התופעות הללו מתרחשות לא רק בחדרי מחשב הנבנים במבנה חדש על קרקע בתולית (Greenfield data center ) אלא גם בפרויקטים של שדרוג חדרי מחשב ( datacenter upgrade ). גבשדרוג חדרי מחשב מדובר בד"כ בהוספת יכולות של אספקת חשמל ומיזוג אוויר ושיפור מערך הכבילה. וגם כאן צוותים שהוקמו אד-הוק עובדים כדי לשדרג את חדר מחשב. במרבית המקרים גם פרויקטים אלו יכולים להיות מנוהלים ביותר יעילות אם ישתמשו ב"אבני בנין" שהן Pre-Engineered, Pre-Configured.
הנוהגים המיטביים מאפשרים היום הוספת מודולים פנימיים ( Pods ) המכילים מס' משתנה של ארונות שרתים, מערכות מיזוג ממוקד ומערכות חלוקת חשמל המורידות באופן דרמטי את זמני התכנון והיישום הנדרשים כמו גם את העלויות. ראו תמונה של POD שבו ארונות שרתים, מיזוג אוויר ותקשורת. ניתן לשלב גם אל פסק (אם כי לא נהוג).

ניתן להרחבה ושכפול באופן מודולארי
דוגמא נאה לצורך המחשה היא חדר מחשב הנבנה על פי השמועה על ידי מייקרוסופט באיידהו שבארה"ב. גודל החדר כ MW 5, ענק במושגים ישראליים אך לא במושגי מייקרוסופט, והוא יושלם תוך 28 שבועות מיום חתימת החוזה. החדר בנוי ממודולים של KW 600 כ"א כל מודול בנוי ממספר מבנים טרומיים המובלים לאתר במשאית ומחוברים תוך ימים לתשתית. ראו תמונה של חדר אנרגיה של MW 1 אשר הותקן ב 5 ימים.

חדר אנרגיה של MW 1 ב 5 ימים. נבנה במפעל. הורכב באתר.
דוגמא נוספת: בוודאי שמעתם על מיזם ה VBLOCK של EMC ו CISCO. ובכן, אם חשקה נפשכם במתקן אחסון ( storage ) מתקדם ביותר, בוודאי ששקלתם את ה VBLOCK. ובכן ניתן לרכוש את ה VBLOCK ב 6 תצורות: V0, V1, V2 וכל אחת מהן ברמת מינימום ומקסימום. חברת פנדויט ( Panduit ) מציעה לדוגמה את כל התשתית הפיזית ל VBLOCK ברמה הנדרשת במק"ט אחד. ראו תמונה:
במקט אחד: ארונות וכל התשתית הפיזית ל VBLOCK