Posts filed under ‘ניהול חדרי מחשב’
מה היא באמת הטמפרטורה הרצויה בחדרי מחשב? פוסט עדכני ל 2015.
ב 2007 כתבתי פוסט על הטמפרטורה הנדרשת בחוות שרתים. הנתונים בפוסט מ 2007 אינם עדכניים אך נמצאים שם כדי לרדוף אותי משום שזה אחד הפוסטים הנקראים ביותר עד היום. הנה הנתונים העדכניים…..
קודם כל נדרשת הבהרה. הטמפרטורה הנדרשת בחוות השרתים שכולם מדברים עליה היא טמפרטורת האוויר הקר הנכנס לשרתים. זו הטמפרטורה החשובה ואותה חשוב מאוד למדוד ולבקר. התקן אותו נזכיר מייד מדבר על האוויר הקר הנכנס לשרתים. מדידות בנקודות אחרות כגון טמפרטורת האוויר החם הנפלטת מהשרתים והטמפרטורה של האוויר החם החוזר ליחידת הקירור ( Liebert or in row ) מעניינות אותנו לצרכי ניתוח בלבד.
אוויר קר נכנס לשרת מלפנים ונפלט אחורנית
לפי ארגון ASHRAE , הארגון האמריקאי למהנדסי מיזוג אוויר, הטווח המומלץ של טמפרטורת האוויר המסופק לשרתים נע בין 18 מעלות ל 27 מעלות צלזיוס. זהו טווח מומלץ רחב יותר מזה שהיה נהוג עד 2009 שנע בין 20 ל 25 מעלות.
הטווח המותר העדכני נע בין 15-32 מעלות. והטווח המומלץ הוא 18-27.
ASHRAE נחשב לאורים ותומים של תעשיית הדטה-סנטר בעולם והמלצות הארגון מקובלות על יצרני ה IT הגדולים בעולם כולל סיסקו, HP, דל וכד'.
הטווח המומלץ ( 18-27) הורחב כדי לאפשר לחוות שרתים לחסוך כסף רב בחשבון החשמל למיזוג אוויר. על כל עלייה של מעלה אחת בטמפרטורת העבודה, ניתן לחסוך בסביבת 3% בחשבון החשמל.
באקלים הישראלי יש לנו עניין להתקרב לגבול הטווח המומלץ הגבוה, כלומר ל 27 מעלות. למי שחושש, אני מציע לשאוף ל 25 או 26 מעלות. כמובן שניתן לעשות זאת רק כאשר יש שליטה טובה על זרימת האוויר בחוות השרתים וכאשר יש אחידות סבירה בטמפרטורה במעבר הקר.
החלק הנמוך של הטווח המומלץ ( 18 מעלות) של האוויר הקר המגיע לשרתים הוא למען מתקנים הפועלים באקלים קר ומעונינים להביא אוויר קר מבחוץ לקרר את החווה. שיטה זו נקראת direct free cooling ואינה רלבנטית לישראל.
היכן מודדים? רצוי בקדמת כל ארון בשלושה גבהים וחיישן אחד בחלק האחורי של הארון.
אפשר בקדמת כל ארון שני בשלושה גבהים או בקדמת כל ארון בשני גבהים.
שיטות מדידה
הכי סקסי: חיישנים אלחוטיים של Synapsense. מאפשרים לקבל בזמן אמיתי מפת חום של החדר בשלושה או 4 גבהים (כולל מתחת לרצפה הצפה) וגם תמונת לחץ אוויר מתחת לרצפה הצפה.
ניתן לקבל תמונה מליאה בנתוני טבלה, או מפה טרמית על צג LCD או על טאבלט.
מקצועי ומתקדם: שימוש בחיישני טמפרטורה שמשתחברים ל PDU כ gateway. לדוגמא חיישני טמפרטורה / לחות שהם אופציה בפסי השקעים המבוקרים/חכמים של Raritan.
לכל פס שקעים יש שני חיישני טמפרטורה/לחות. סה"כ בארון שלושה חיישנים מלפנים ו אחד מאחור. התמונה מחוות השרתים של eBay
לאתרים קטנים ו/או מרוחקים:
מערכת חיישני בקרת סביבה עם יכולת מודם סלולרי של Avtech
מערכת בקרת סביבה
PDU לארונות שרתים: מבוקר או מנוהל?
האם יש עדיין טעם להצטייד בפסי שקעים "בסיסיים" לארונות שרתים?
פס השקעים הידוע בכינוי RPDU, הפך לחלק משמעותי ומעניין בחוות השרתים. כיום נהוגים מס' סוגים של פסי שקעים:
1. פסי שקעים מנוטרים – כאלו שמודדים ומציגים באמצעות צג מקומי את צריכת החשמל
2. פסי שקעים חכמים – מודדים ומציגים את צריכת החשמל ושולחים התראות דרך הרשת
3. פסי שקעים מנוהלים- יש בהם את יכולות הפסים החכמים + מאפשרים כיבוי והדלקה מרחוק
במה לבחור אם כך?
אני מאמין שהתשתית הפיזית של חוות השרתים חייבת לתמוך בשלושת יעדי העל:
1. רציפות עסקית
2. זמינות ( קיבולת בכל זמן)
3. עלות כוללת
לטעמי, פסי שקעים חכמים הם המינימום ההכרחי:
1. רציפות עסקית – כמעט כל חוות שרתים רצינית משקיעה ביתירות כלשהי. עם פס שקעים בסיסי, אין ערובה לשום יתירות. וזאת משום שללא בקרה, קל מאוד להעמיס את פסי השקעים בעומס העובר את ה 50%. במקרה של קריסת אחת ה"רגליים" יועמס פס השקעים הנותר ביותר מ 100% ויקרוס. עמו יקרוס גם ארון השרתים (במקרה הטוב). כלומר ההשקעה העצומה ביתירות (שרתים בעלי שתי הזנות המובילות לשני פסי שקעים ומשם לשני לוחות חשמל, לשתי מערכות אל פסק וכו) מתבזבזת בשל חיסכון תמוה על פס השקעים.
לאנגלים יש ביטוי טוב לתאר זאת:
"penny wise and pound foolish"
פס שקעים חכם יתן לנו התראה כאשר נעבור רמת סף של עומס אותה נגדיר אנחנו. לדוגמא 45%. לדיון מעמיק ראו פוסט קודם.
2. זמינות: השקענו בחוות שרתים ואנו רוצים לנצל את ההשקעה במלואה. איך זה שמרבית הארונות ריקים למחצה ומנהל החווה מתלונן שאין לו יכולת לקלוט ציוד חדש? ובכן, בכדי לדעת אם ארון השרתים מולנו יכול לקלוט ציוד נוסף הצורך, נניח, עוד 2 קילו-וואט, עלינו לדעת כמה צורך הארון שלפנינו. פס שקעים חכם המחובר לתוכנת שליטה כגון Power IQ , יציג את צריכת הארון שלפנינו לאורך זמן. כך נדע ברמת ביטחון גבוהה אם נוכל להוסיף ציוד לארון וכמה.
3. עלות כוללת: ניטור צריכת החשמל ברמת הארון נותן לנו את האפשרות ליזום שיפורים בתחום היעילות האנרגטית ולחסוך כסף רב לארגון אותו ניתן לנצל להתעצמות. בנוסף, ניטור מאפשר ניתוח עלות-תועלת של רכישת שרתים חדשים.
טיפים נוספים לבחירה נבונה:
– הטמפרטורה בחלקו האחורי של הארון יכולה היום להגיע ל 50 מעלות. ולכן, חשוב לבחור פסי שקעים חכמים העומדים בטמפרטורות של 60 מעלות.
-תכנון המאפשר מינימום טעויות אנוש:
כיסוי למפסקים, קליפים למניעה של ניתוק לא מכוון של כבלים , לדים וסימון צבעים לפאזות השונות.
חוות שרתים בבניה מודולארית
הקונגרס בארה"ב חוקק חוק הקובע שכל חוות השרתים החדשות של הממשלה הפדרלית ייבנו בטכנולוגיה מודולארית. במה מדובר?
בניה של חוות שרתים מצריכה השקעה ראשונית משמעותית. השקעה זו גדלה עם דרישות היתירות והמיגון. עם זאת, לא רבים יודעים שהוצאות התפעול, בעיקר חשבון החשמל, מגמדות את ההשקעה הראשונית. לתופעה זו ייחדתי לא מעט פוסטים ולא נדון בכך עכשיו.
היתרונות של הדטה סנטר המודולארי הם משמעותיים ביותר:
1. זמן תכנון הנמדד בשבועות לעומת חודשים בגישה המסורתית
2. זמן הקמה קצר: 5-6 חודשים לעומת 24-36 חודשים של חוות שרתים מסורתית זאת בניגוד לחוות שרתים מדור 1.0 שהיא תמיד יחידה ומיוחדת ואין כמוה בעולם ועל כן הסיכון הוא תמיד גדול יותר.
3. תכנון מוכח ומנוסה ואף הוסמך ל טיר 3
4. עלות ההקמה נמוכה יותר בגישה המודולארית משום שיש יתרון כלכלי בייצור על פס ייצור לעומת בניה יחידנית.
5. כל מי שניהל פרויקט בינוי מורכב יודע שחלק גדול מהעלות והסיבה לחריגות בתקציב הוא התארכות הפרויקט מעבר ללו"ז המקורי. פרויקטים ממשלתיים אורכים שנים רבות. במגזר הפרטי, שנתיים. בבנקאות שלוש שנים. בשיטה המודולארית, זמן ההקמה הוא 5-6 חודשים מההזמנה ולכן הסיכון להתארכות הפרויקט קטן מאוד.
6. חוות שרתים מודולארית יכולה להיבנות בשלבים. ועל כן ניתן להתחיל בהשקעה קטנה יותר ובתקציב נוח יותר לארגון.
7. עלות המימון קטנה בהרבה כאשר בונים מודולארית
8. עלות התפעול זולה יותר. זאת משום שחוות שרתים מודולארית יכולה להיות מאוד יעילה מבחינה אנרגטית
9. עדכנות טכנולוגית: מערכות המחשוב/תקשורת/אחסון מתפתחות בקצב מואץ של דור אחד לכל שנתיים-שלוש. מערכות התשתית של הדטה סנטר מתפתחות בקצב איטי יותר של כל 5-6 שנים בערך. בשיטה המודולארית, ניתן להתקדם עם הטכנולוגיה ולהגיב לצרכים משתנים באופן ממוקד ללא השפעה על כלל המתקן.
10. עמידות במפגעים פיזיים טובה יותר בשיטה המודולארית. לדוגמא, דליקה בחוות שרתים מסורתית תשבית את כל המתקן. בחווה מודולרית, יושבת רק המודול היחידי בו אירע האירוע.
11. מערכת שו"ב מובנית בכל מודול חוסכת עלות משמעותית של פרויקט שו"ב
אם נחזור לשאלה המקורית בתחילת הפוסט, הממשל הפדרלי החליט לחסוך כסף. רעיון לא רע, גם אם מדובר בכספי ציבור.
בתמונה אתר של חוות שרתים מודולארית בניו-ג'רזי. האתר מתוכנן ל 100 מגה וואט מתוכו כ 50% בערך כבר מאוכלס. התמונה מראה את החלק הראשון של המתקן בגודל של 3 מגה-וואט שהיה מוכן לפעולה 95 יום אחרי החוזה
החסרונות: זה לא למתקנים קטנים. לטעמי, גודל מינימאלי הוא 800 קילו-וואט. עוד חיסרון: נדרש גובה של כ 6 מטר בערך בין רצפת הבטון לתקרה.
טעות קטנה בדטה סנטר..
ידיעה קטנה בעיתונות תפסה את עיני: במשך כשעה פחות או יותר, משתמשים ברחבי העולם לא הצליחו להעלות פוסטים ולסמן לייקים בפייסבוק בשל בעיה בדטה סנטר של פייסבוק. מפייסבוק נמסר ש"מוקדם יותר היום הבוקר (שעון ארה"ב), בזמן ביצוע עבודות תחזוקה, חווינו אירוע אשר מנע מחלק מהמשתמשים להעלות פוסטים לפייסבוק לפרק זמן קצר. פתרנו את הבעיה במהירות והמערכת שבה לפעול בתפקוד מלא. אנו מתנצלים על אי הנוחות אשר נגרמה".
למרות היותי חובב גאדג'טים וטכנולוגיה אינני מנוי בפייסבוק, כנראה בשל הפרעת אישיות כלשהי. נפילת פייסבוק אם כך לא הפריעה לי מאוד במישור האישי, שגרת יומי לא הופרעה ומצב רוחי לא נפגע. אך דבר מה קטן נוסף לכד את עיני: מניית פייסבוק נפלה עקב האירוע ב- 0.6%. לא נורא, נכון? ובכן, בשווי שוק של כ-100 מיליארד דולר, 0.6% זה 600 מיליון דולר. קצת הרבה בשביל טעות טכנאי בזמן תחזוקה.
ידוע ש 60% מהאירועים המביאים לנפילה של חוות שרתים הם תוצאה של בעיות בתכנון ותפעול של התשתית הפיזית, כלומר, מיזוג אוויר , חשמל ותשתית תקשורת. לא סוד הוא שבישראל מרבית חוות השרתים מיושנות ברמת התשתית וסובלות מרעב תקציבי מתמשך. זה מתבטא במיזוג אוויר לא יעיל, בניהול כבילה בעייתי, בחוסר מוכנות לרעידות אדמה, ובמערכות חשמל מאולתרות. התוצאה הישירה היא סיכון לרציפות העסקית. נשאלת השאלה אם כך, האם ניתן לכמת את הסיכון?
רבות נכתב על הערכת העלות של זמן דמימה ( downtime ) של חוות שרתים. הערכת העלות לשעה של זמן דמימה נעה בין אלפי דולרים לארגונים קטנים ועד לעשרות מיליונים לשעה עבור ארגונים פיננסיים גדולים. הערכת הנזק מחושבת בדרך כלל על בסיס ערך העסקאות שעורך הארגון בתקופת זמן יחד עם הערכה גסה של עלות אובדן מוניטין ואיבוד לקוחות. המקרה של פייסבוק מאיר צד נוסף של הבעיה. הנזק לבעלי המניות עקב הפגיעה במחיר המניה. לא אתפלא אם העלות של מניעה אפקטיבית של הבעיה שהתעוררה בפייסבוק היא אלפית מהנזק שספגו בעלי המניות. 600 מיליון דולר כבר אמרנו?
לא אחת אני שותף לתסכולו של סמנכ"ל הטכנולוגיות בארגון, אשר מזהה את הסיכון אך לא מצליח להשיג תקציב למזעור הסיכונים. מקרה פייסבוק מאפשר למנמ"ר לפנות למנכ"ל ולחברי הדירקטוריון ולשאול אותם: " מה יקרה למחיר המניה, אם חוות השרתים, חוט השדרה של העסק שלנו, תידום לשעה? יום? שלושה ימים?"
סקר ביצועים וסיכונים בחוות שרתים הכרחי כדי לחשוף בעיות שיכולות לסכן את הרציפות העסקית. בחברת אלכסנדר שניידר אנו מבצעים סקר של חדרי שרתים ומזהים
1. סיכונים לרציפות העסקית
2. פוטנציאל לשיפור ביעילות האנרגטית ובהוצאות התפעול
3. דרכים למקסם את התשתית הקיימת כדי לתמוך בעוד מערכות ( Hidden Capacity )
קורס של ג'ון ברייס בנושא ניהול חוות שרתים
מדי פעם אני נשאל על קורס בנושא ניהול והקמה של חוות שרתים. הפעם יש לי תשובה…
מכללת ג'ון ברייס פותחת קורס הנקרא
Datacenter Professional
תיאור
קורס לימוד המשלב נושאים הקשורים בתכנון, הקמה וניהול של חדרי מחשב וחוות שרתים בהיבט של התשתית הפיזית-קריטית. הקורס מכיל הרצאות ודוגמאות בתחומי העמדה, תקשורת, מיזוג אוויר, חשמל ושו"ב ומתמקד בהצגת היסודות ובנוהגים מיטביים
אחד המפגשים של הקורס יועבר במעבדת הדטה-סנטר בחברת אלכסנדר שניידר בפארק התעשייה החדש של נתניה.
המרצים יהיו מוכרים לכם בוודאי….
יגאל שניידר – מנכ"ל חברת אלכסנדר שניידר. תואר ראשון בהנדסת חשמל, תואר שני במנהל עסקים. יוצא חברת אינטל בה מילא תפקידי מפתח שונים כמנהל מוצר. מומחה בתכנון והקמה של חוות שרתים. מרצה ותיק וכותב בלוג בנושא חדרי מחשב datacenter.org.il
משה נבות – מייסד חברת המהנדסים קפלן-נבות ומומחה מוביל בישראל בתכנון מערכות חשמל מורכבות, ביניהן חוות שרתים ומרכזי מחשוב גדולים.
שלום אביטן – סמנכ"ל טכנולוגיות בחברת אלכסנדר שניידר. מתמחה בהקמת ותכנון תשתיות תקשורת, מיזוג אוויר וחשמל של מרכזי מחשוב גדולים. תכנן וניהל כמה מהפרויקטים הגדולים בישראל בתחום חוות השרתים.
מטרות הקורס
אנשי מקצוע המנהלים או מיועדים לנהל חוות השרתים ילמדו את יסודות התכנון והניהול של חדרי המחשב וכיצד ליישם נוהגים מיטביים בתרחישים שונים.
קהל יעד
אנשי איי טי, הנדסה ותשתיות המעוניינים להתמקצע בנושא הקמת וניהול חדרי מחשב וחוות שרתים.
לפניות: אנא פנו לג'ון ברייס. אנחנו התנדבנו לצקת תוכן טכני ולהרצות ואנו לא מארגנים את הקורס.
חוות שרתים "ממוגנת"
חברות ישראליות רבות בוחנות את האפשרות להעביר או להקים חוות שרתים מתחת לפני הקרקע, במבנה קיים.
הסיבה העיקרית היא מיגון מפני רקטות. יש בזה היגיון. מה עוד ששטחים תת קרקעיים הם זמינים וזולים משום שאלו שטחים שאינם מבוקשים כשטחי משרדים.
הקמנו והשתתפנו בהקמת חדרי שרתים מאוד מתקדמים ומכובדים שהוקמו בקומות תת קרקעיות. העניין בר ביצוע וברמה גבוהה. עם זאת, לא כל אתר מתאים לכך. סקר אתרים ותכנון נבון, הם תנאים בסיסיים. הנה דוגמא לחברה שלא חשבה עד הסוף
יעילות אנרגטית של חדרי שרתים: PUE 2.0
יעילות אנרגטית של חדרי שרתים: PUE & PUE 2.0
המדד הקרוי PUE ( קיצור של Power Utilization Effectiveness ) נוצר על מנת לתת למנהלי מרכזי מחשוב מדד להשוואה של יעילות אנרגטית של מתקני חוות השרתים. אך עם הזמן הובן שמדד זה משאיר מקום לפרשנות ואף למניפולציה של הנתונים. בפוסט זה נסביר מהו PUE, מה חסרונותיו ויתרונותיו, ומהי הגרסה המתקדמת יותר PUE 2.0 .
PUE הוא יחס בין שני מספרים. במונה: צריכת החשמל בקילוואט של כל מתקן חדר השרתים ( IT, מיזוג אוויר ומערכות הספק ותאורה). במכנה: צריכת החשמל רק של ה IT.
(PUE = (Total datacenter power in) /( IT load Power
היחס 1.0 הוא יחס תיאורטי שלא ניתן להשגה אך יש לשאוף להתקרב אליו. כאשר היחס הוא 3.0, המשמעות היא שעל כל וואט שצורכות מערכות ה IT, המתקן צורך עוד 2 וואט של תקורה
(בעיקר, אך לא רק מיזוג אוויר) /
התקורה היא שם נרדף לבזבוז שעולה לארגון כסף רב. לדוגמא, מתקן שבו ה IT צורך מגה-וואט אחד, ישלם לחברת החשמל בישראל 8 מיליון ₪ בשנה ב PUE=1.5 או 16 מיליון ₪ בשנה ב PUE=3.0 . הבדל של 8 מיליון ₪ בשנה. בחדר שרתים קטן שם העומס של ה IT הוא רק 100 קילוואט ההבדל יהיה 800,000 ₪ בשנה. גם זה כסף. תכפילו ב20 שנה של חיי המתקן ותבינו את המשמעות הכלכלית לארגון.
בישראל מרבית חוות השרתים "מצטיינות" ב PUE שבין 2.5-3.5 . בארגונים נאורים שלהם חוות שרתים, כבל החלו לפעול על מנת להבין ולחסוך. במרבית הארגונים בישראל, ההנהלה עדיין לא מודעת לחיסכון העצום שכל כך קל להשיגו.
נחזור ל PUE. היחס כפי שהוא מוגדר ניתן למניפולציה צינית. לדוגמא, מדידה בימי החורף הקרים ובשעה בה מערכות ה IT בשיא העומס יתנו מספר טוב יותר. עוד דרך היא להשמיט מהחישוב את ה NOC ומערכות IT תומכות. או לכבות מערכות יתירות בעת המדידה.
בנוסף, היחס לא נועד להשוואה בין מתקנים ובין חברות. אין להשוות חדר שרתים באיסלנד לזה בתל אביב. כמו כן, אין להשוות מתקן tier3 שלו יתירות רבה (יתירות מביאה לצריכת חשמל גבוהה יותר) לבין מתקן Tier 1 . כמו כן, לחדר שרתים המועמס ב 20% מהקיבולת שלו יהיה PUE פחות טוב ממתקן זהה המועמס ב 80% מהקיבולת שלו.
ולכן, אין להשוות בין PUE של שני מתקנים. הPUE נועד לתת למנהלי חוות השרתים מדד ברור ליעילות האנרגטית של חוות השרתים ע"מ שיוכלו לשפר את אותו מתקן. כמו בגולף, הוא מתחרה בעצמו ומנסה לשפר את התוצאה שלו.
הגרסה המתקדמת ביותר של הגדרת ה PUE מגדירה 4 רמות. PUE0, PUE1, PUE2, PUE3
PUE0 – דומה מאוד ל PUE ה"ישן". הוא מודד את הצריכה בקילוואט במספר נקודות זמן שנלקחו לאורך תקופה של לפחות שנה. צריכת ה IT נמדדת ביציאת האל-פסק.
PUE1 – כאן אנו מדברים על יחס ממדידה שנלקחה לאורך שנה שלמה. סה"כ קילו-וואט-שעה שנצרכו על ידי המתקן כולו חלקי סה"כ קילו-וואט שעה שנצרכו על ידי ה IT כפי שנמדד ב UPS
PUE2 – דומה מאוד ל PUE1 מלבד העובדה שהמדידה של צריכת החשמל נעשית בארונות החשמל שבין ה IT לאל-פסק. אין הבדל משמעותי ואני לא רואה בזה חשיבות.
PUE3 – זה היחס המדויק ביותר והוא מורכב מ סה"כ קילוואט שעה שנצרך על ידי חוות השרתים כולה במשך שנה חלקי קילוואט שעה שנצרך על ידי מערכות ה IT כפי שנמדדו על יד פסי השקעים ( Rack PDU ) המנוטרים ( יש כאלו שקוראים להם מבוקרים או חכמים). זה הדבר האמיתי.
כיצד מודדים? קל מאוד . המדידה והבקרה של צריכת ה IT קלה מאוד עם פסי שקעים מבוקרים כגון אלו של Raritan והמדידה נעשית באמצעות תוכנה שנקראת PowerIQ. אפשרות נוספת היא PDU של חברת Server Technology ותוכנה הנקראת SPM. יש עוד פתרונות נוספים.
RARITAN POWERIQ
7 דרכים למיזוג אוויר יעיל אנרגטית בחדרי שרתים.
מאז אוגוסט 2011 עלו מחירי החשמל בישראל ביותר מ30% (נכון לפברואר 2012). למי שמנהל חדרי שרתים, עובדה זו כואבת במיוחד משום שעלויות צריכת החשמל של חדרי המחשב הגיעו ל 20-25% מהוצאות התפעול השוטפות. בשל הדרך בה תוכננו חדרי השרתים או בשל הדרך בה הם מנוהלים, חלק משמעותי מצריכת האנרגיה מקורה בבזבוז בעיקר בשל חוסר יעילות בדרכי מיזוג האוויר.
בארגונים נאורים בהם חשבון החשמל של חדרי השרתים נבחן בדקדקנות, העלייה בצריכת החשמל הביאה לבחינה מחודשת של דרכי התכנון והניהול של מרכזי המחשוב. בארגונים פחות נאורים, חשבון החשמל משולם על ידי גוף תפעול מרכזי שאינו מסוגל לנתח את הנתונים והתוצאה היא בזבוז שעלותו מאות אלפי ואף מיליוני שקלים בשנה, תלוי בגודל המתקן. לדוגמא: במתקן של ארגון בינוני שבו כ 400 שרתים, צריכת החשמל של השרתים תהיה כ 200 קילוואט לערך. צריכת החשמל הכוללת של המתקן תכלול גם את צריכת החשמל למיזוג אוויר ולמערכות תשתית נוספות. בחדר מחשב בגודל זה המופעל היטב ( PUE=1.5 ) חשבון החשמל הכולל יהיה כ מיליון וחצי ₪ בשנה. בחדר מחשב בגודל דומה המנוהל ללא מתן חשיבות לצריכת החשמל ( PUE=3 ) , ויש רבים כאלו בישראל, חשבון החשמל יעלה כ 3 מיליון ₪, בזבוז של מיליון וחצי ש"ח בשנה או 15 מיליון ₪ בעשר שנים. להסבר על PUE
למי שלא בחן את הנושא מקרוב עד כה, אציין רק שעלות החשמל הנדרשת להפעיל ולקרר שרת מתקדם לאורך 3 שנים גבוהה יותר מעלות השרת עצמו.
בארונות INRACK אלו טמפרטורת מיים קרים של 18 מעלות
בפוסט הקודם תיארתי 10 נוהגים מתקדמים של חדרי שרתים ( datacenter Best Practices ) . הפעם אתמקד בנושא מיזוג האוויר בחדרי שרתים.
רבים ממנהלי חדר המחשב יודעים שעליהם ליישם מעברים קרים וחמים ולזווד פנלים עיוורים בארונות שרתים כדי למנוע חזרת אוויר חם אל קדמת הארון. על כן, לא אעסוק בנושאים טריוויאלים מעין אלו. אלא אתמקד בנוהגים מתקדמים אשר לא רבים בישראל נתנו עליהם את הדעת:
ניתן לחסוך בצריכת החשמל למיזוג בן 30% ל 50% על ידי הפרדה מוחלטת של אוויר קר וחם ועל ידי העלאת טמפרטורת העבודה. הפרדה מוחלטת של אוויר קר וחם מתבצעת על ידי הכלה ( Containment ) והעלאת טמפרטורת העבודה מתבצעת על ידי העלאת טמפרטורת המים הקרים למיזוג ( CW ) מ 7 מעלות ל 16 ואף 18 מעלות צלזיוס. נסביר…
1. הפרדה מוחלטת של אוויר קר וחם על ידי הכלה ( Containment ) של האוויר הקר ( Cold Containment ) או הכלה של האוויר החם ( Hot Containment ) . בחדרי שרתים הממוזגים בשיטת קירור החדר ( בדרך כלל על ידי מערכות ליברט ) הכלת האוויר הקר מתבצעת על ידי סגירת המעבר הקר או על ידי הכלת החום באמצעות ארונות ארובה. אגב, בשיטה הראשונה (סגירת מעבר קר) ניתן להגיע ל 15 קילוואט לארון שרתים ועל ידי ארונות ארובה ניתן להגיע ל KW 30 לארון שרתים.
2. שימוש במערכות קירור ממוקד הקרוי בדרך כלל "ארונות קרור מים" . קירור ממוקד זה יכול להיות מפוזר בשורות ( in row cooling ) או בתוך ארון השרתים באופן הקרוי InRack Cooling.
3. בשיטת קירור השורה ניתן לסגור את המעבר הקר או את המעבר החם. שתי השיטות טובות אם כי רבים ממש שונאים לעבוד במעבר חם סגור בשל אי הנוחות שבכך. קיימת שיטה היברידית אשר נקראת שיטת החדר הקר ( cool room concept ) אשר לה אייחד מאמר נפרד בקרוב והיא מיישמת את כל היתרונות של סגירת המעבר החם ללא החסרונות.
4. העלאת טמפרטורת העבודה. עד לאחרונה נהגו המתכננים לעבוד עם צ'ילרים שקררו את המים הקרים ל 7 מעלות צלזיוס. העלאת טמפרטורת המים הקרים ל 16 ואף 18 מעלות מספקת חיסכון בצריכת החשמל של כ 3% לכל מעלה. בחישוב זריז מדובר על חיסכון של כ 30% רק משינוי טמפרטורת העבודה.
אגב, העלאת טמפרטורת העבודה תאפשר גם לקבל כ 25% יותר קיבולת קירור מהצ'ילר אם כי נתון זה משתנה ממודל למודל.
חשוב מאוד: כדי ליישם שיטה מתקדמת זו הלכה למעשה יש לבחור מערכות In Rack או InRow המסוגלות לספק את קיבולת הקירור המקסימאליות בטמפרטורות CW אלו. ישנן מערכות, רחמנא ליצלן, שבטמפרטורות אלו של 16 מעלות מיים קרים קיבולת הקירור שלהן יורדת ב 50% ואך יותר. מיצרנים כאלו מומלץ להישמר.
5. מדידה ובקרה – אי אפשר לנהל ולייעל את מה שאינו נמדד. חיישנים וכלי תוכנה מתקדמים מודדים את יעילות צריכת האנרגיה ( PUE ) ומידת השימוש בתשתיות ומאפשרים קבלת החלטות ניהוליות מושכלות. לדוגמא: חישוב קל של החזר השקעה של IT Refresh .
6. מודולאריות בתכנון – השקעה בציוד תשתית לעומס מקסימאלי כבר בתחילת חיי חדר המחשב היא מתכון לבזבוז ולשיתוק היכולת לאמץ טכנולוגיות חדשות עם הזמן. תכנון מודולארי מאפשר מדרוג ההשקעה לאורך שנים ( pay as you grow ) וחיסכון משמעותי ב TCO. מודולאריות מאפשרת גם שימוש אופטימאלי בטכנולוגיות מתקדמות ובמוצרים חדישים.
7. ניהול בזמן אמת באמצעות כלי תוכנה – קצת עצוב שהתשתיות הפיזיות של חוות השרתים בישראל מנוהלות בדרך כלל בגיליונות אקסל. קיימים כלי תוכנה ( SPM, DC Track, Power IQ ) קלים לשימוש המאפשרים ניצול מיטבי של ההשקעה בתשתית, הצגת לוח מחוונים ( Dashboard ) בזמן אמיתי והעיקר: יכולת תגובה מהירה לשינויים.
ארגון אשר יישם את שבעת הנוהגים המתקדמים הללו ויפנים את העקרונות שעיצבו אותם, ישפר משמעותית את יעילות מיזוג האוויר של חדרי השרתים בכ 30%-50% , ויוכל לחסוך לארגון כספים רבים שישמשו אותו להקצאת משאבים להתעצמות.
תכנון חדרי מחשב וחוות שרתים
זה הסטנדרט המומלץ של אלכסנדר שניידר
למנמ"ר המתכנן את מרכז המחשוב ( datacenter ) החדש של הארגון, יש הזדמנות לנצל נוהגים מתקדמים ( Best Practices ) בתכנון חדרי שרתים, ולשפר את התשתית עליה נשען מערך ה IT תוך חיסכון בעלות כוללת. להלן "עשר הדיברות"
1.TCO – הגדירו את רמת היתירות הנדרשת וחשבו את העלות כוללת ל 10 עד 15 שנים. השקעה ראשונית גדולה במס' אחוזים יכולה לחסוך עשרות אחוזים ב TCO.
2.בחירת השרתים גם על פי צריכת האנרגיה – עלות התפעול (בעיקר אנרגיה חשמלית) של שרת לאורך שלוש שנים גבוהה יותר מעלות השרת עצמו. בחרו בחוכמה שכן השוני בין השרתים הוא משמעותי.
3.וירטואליזציה – שימוש בוירטואליזציה מאפשר חיסכון משמעותי ברכש חומרה ובעלות התפעול של חוות השרתים. עם זאת, צריכת האנרגיה של שרת פיזי שעליו 5-20 שרתים וירטואליים גבוהה משמעותית מבעבר ויש צורך בחשיבה עדכנית בתשתית החשמל ומיזוג האוויר.
4.צפיפות מחשוב גבוהה – העלות הכוללת של חדר שרתים עם צפיפות מחשוב גבוהה ( high density ) נמוכה משמעותית ממרכזי מחשוב המפזרים את המחשוב על שטח רצפה נרחב. עם זאת, נדרשת חשיבה מקצועית וחדשנית להתמודדות עם כבילה צפופה, תשתית חשמל ומיזוג אוויר לצפיפות גבוהה. כדאי להתגבר על הנטייה להיצמד לשיטות עבר – החיסכון הוא משמעותי.
5.מודולאריות בתכנון – השקעה בציוד תשתית לעומס מקסימאלי כבר בתחילת חיי חדר המחשב היא מתכון לבזבוז ולשיתוק היכולת לאמץ טכנולוגיות חדשות עם הזמן. תכנון מודולארי מאפשר מדרוג ההשקעה לאורך שנים ( pay as you grow ) וחיסכון משמעותי ב TCO. מודולאריות מאפשרת גם שימוש אופטימאלי בטכנולוגיות מתקדמות ובמוצרים חדישים.
6. מיזוג אוויר חדשני וממוקד. המיזוג הממוקד מאפשר התמודדות עם כל עומס, חיסכון באנרגיה חשמלית וניצול מיטבי של ההשקעה בתשתית. עם זאת, היזהרו ממוכרנים שממוקדים רק במה שכדאי להם למכור . ישנן מגוון שיטות כגון קירור פנים-ארון, קירור חדר, קירור שורה ולכל אחת מאלו ואריציות שונות. מה נכון? כל פרויקט לגופו על פי הדרישות, הצרכים והאילוצים. טיפ חשוב: בחדרים בהם מיזוג האוויר מבוסס על צ'ילרים: דרשו ממתכנן מיזוג האוויר לתכנן לפי טמפ' מים קרים של לפחות 12 מעלות צלזיוס. רצוי אף יותר. זה יביא לחיסכון עצום בצריכת החשמל ותקבלו הרבה יותר מהמערכות שהתקנתם.
7. הפרדה מוחלטת של אוויר קר ואוויר חם – אחת הסיבות העיקריות לבזבוז העצום במיזוג אוויר ובחשמל בחוות שרתים הוא חוסר ההפרדה בין אוויר קר לחם. שימוש בפנלים עיוורים הוא חובה בסיסית עם החזר השקעה של יומיים בערך. הפרדה בין המעבר הקר למעבר החם יכולה גם היא להביא לחיסכון משמעותי. גם כאן יש כר נרחב של אפשרויות: סגירת מעבר הקר (עם או בלי מערכות קירור מים), סגירת המעבר החם ( רק בשילוב מערכות קירור מים), שיטה היברידית ועוד.
8.ניהול בזמן אמת באמצעות כלי תוכנה – קצת עצוב שהתשתיות הפיזיות של חוות השרתים בישראל מנוהלות בדרך כלל בגיליונות אקסל. קיימים כלי תוכנה ( SPM, DC Track, Power IQ ) קלים לשימוש המאפשרים ניצול מיטבי של ההשקעה בתשתית, הצגת לוח מחוונים ( Dashboard ) בזמן אמיתי והעיקר: יכולת תגובה מהירה לשינויים.
9. מדידה ובקרה – אי אפשר לנהל ולייעל את מה שאינו נמדד. חיישנים וכלי תוכנה מתקדמים מודדים את יעילות צריכת האנרגיה ( PUE ) ומידת השימוש בתשתיות ומאפשרים קבלת החלטות ניהוליות מושכלות. לדוגמא: חישוב קל של החזר השקעה של IT Refresh .
10. הסמכה מבצעית של חדרי שרתים – טבען של תקלות בתכנון וביצוע של חדרי שרתים חדשים, הוא שהן מתגלות זמן רב לאחר העלייה לאוויר עם הצמיחה הטבעית בעומס. תקלות אלו גורמות לזמן דמימה ( downtime ) של חדרי שרתים קריטיים לארגון. ההסמכה המבצעית של אלכסנדר שניידר בוחנת תחת עומס אמיתי את כל מערכות חדר השרתים: מיזוג אוויר, חשמל , יתירות ויעילות אנרגטית. הבדיקה היא באמצעות אמולטורים של חומרה , חיישנים מתקדמים ותוכנת בקרה ייעודית. ההסמכה המבצעית מורידה דרמטית את ההסתברות לתקלות תשתית ומגלה את כל הבעיות לפני הכנסת מערכות האמת של ה IT לחדר השרתים החדש כאשר כל המערכות עדיין באחריות וכל המתכננים והקבלנים עדיין זמינים.
ארגון אשר יישם את עשרת הנוהגים המתקדמים הללו ויפנים את העקרונות שעיצבו אותם, ישפר משמעותית את יכולת חוות השרתים להגיב לצרכי הארגון, ויוכל לחסוך לארגון כספים רבים שישמשו אותו להקצאת משאבים להתעצמות.
אנו מקיימים ימי עיון לעיתים קרובות בנושא תכנון וניהול חדרי שרתים. למעוניינים כתבו לטלי שרון tali@schneider.co.il
מרכז ההדרכה למנהלי חוות שרתים
באופן שגרתי, אנו עורכים ימי עיון בנושא ניהול חדרי מחשב וחוות שרתים לללקוחות אלכסנדר שניידר. זוהי הזדמנות מצוינת לצוותי IT, מיזוג אוויר וחשמל של הארגון להסב מסביב לשולחן במקום נייטראלי, לשמוע הדרכות בנושא ניהול חדרי מחשב ולדון בצרכים ובתוכניות של חוות השרתים שלהם.
בדרך כלל מדובר ביום מלא ואינטנסיבי אם כי לעיתים עורכים יום מקוצר כדי להתמקד בנושא בוער או בשניים.
מאחר ושקפים זה עניין שיכול להתיש, בנינו חדר שרתים עובד לצורך הדגמה. מדובר בחוות שרתים עובדת ופעילה שנבנתה לצרכי המחשה והדרכה כך שניתן לבקר בחדר, לגעת וללמוד באופן חופשי.
הדגמה של יתרונות סגירת המעבר הקר
נושאי ההדרכה קשורים כולם לתשתית הפיזית של ה datacenter: ניהול, בקרה, חשמל, מיזוג אוויר, תקשורת נחושת ואופטיקה, ניהול כבילה, יעילות אנרגטית, תכנון העמדה ועוד. הדגש הוא על נוהגים מיטביים – BEST PRACTICES בניהול חוות שרתים.
high density cooling up to 30KW / rack
בחדר השרתים להמחשה תראו הדגמות לנושאים רבים: ארונות שרתים מסוגים שונים, PDU מסוגים שונים, פסי צבירה מודולאריים, קירור שורה ( In Row ), קירור ארון (In Rack ), ארונות עם קירור מים, סגירת מעבר קר, ארונות ארובה, ארונות תקשורת ייעודיים לסיסקו, פתרונות ניהול כבילה, הארקה של חוות שרתים, נחושת ואופטיקה בצפיפות גבוהה, תיעול כבילה, תוכנות ואמצעי בקרה, תוכנות ניהול ועוד נושאים רבים אחרים.
חוות השרתים להדגמה של אלכסנדר שניידר
ההדרכות מתקיימות בתיאום מראש ללקוחות מתחומי ה IT, מיזוג אוויר, חשמל ושו"ב.
אורחים מחו"ל שהגיעו להדרכה בנושאי חדרי שרתים
לשאלות ותיאום tali@schneider.co.il . אתם מוזמנים.
The Data Center Blog - חדרי מחשב, הקמת אולמות מחשב, חדרי שרתים, חוות שרתים, KVM, ניהול כבילה, UPS, green IT 