Posts filed under ‘Water Cooling’
7 דרכים למיזוג אוויר יעיל אנרגטית בחדרי שרתים.
מאז אוגוסט 2011 עלו מחירי החשמל בישראל ביותר מ30% (נכון לפברואר 2012). למי שמנהל חדרי שרתים, עובדה זו כואבת במיוחד משום שעלויות צריכת החשמל של חדרי המחשב הגיעו ל 20-25% מהוצאות התפעול השוטפות. בשל הדרך בה תוכננו חדרי השרתים או בשל הדרך בה הם מנוהלים, חלק משמעותי מצריכת האנרגיה מקורה בבזבוז בעיקר בשל חוסר יעילות בדרכי מיזוג האוויר.
בארגונים נאורים בהם חשבון החשמל של חדרי השרתים נבחן בדקדקנות, העלייה בצריכת החשמל הביאה לבחינה מחודשת של דרכי התכנון והניהול של מרכזי המחשוב. בארגונים פחות נאורים, חשבון החשמל משולם על ידי גוף תפעול מרכזי שאינו מסוגל לנתח את הנתונים והתוצאה היא בזבוז שעלותו מאות אלפי ואף מיליוני שקלים בשנה, תלוי בגודל המתקן. לדוגמא: במתקן של ארגון בינוני שבו כ 400 שרתים, צריכת החשמל של השרתים תהיה כ 200 קילוואט לערך. צריכת החשמל הכוללת של המתקן תכלול גם את צריכת החשמל למיזוג אוויר ולמערכות תשתית נוספות. בחדר מחשב בגודל זה המופעל היטב ( PUE=1.5 ) חשבון החשמל הכולל יהיה כ מיליון וחצי ₪ בשנה. בחדר מחשב בגודל דומה המנוהל ללא מתן חשיבות לצריכת החשמל ( PUE=3 ) , ויש רבים כאלו בישראל, חשבון החשמל יעלה כ 3 מיליון ₪, בזבוז של מיליון וחצי ש"ח בשנה או 15 מיליון ₪ בעשר שנים. להסבר על PUE
למי שלא בחן את הנושא מקרוב עד כה, אציין רק שעלות החשמל הנדרשת להפעיל ולקרר שרת מתקדם לאורך 3 שנים גבוהה יותר מעלות השרת עצמו.
בארונות INRACK אלו טמפרטורת מיים קרים של 18 מעלות
בפוסט הקודם תיארתי 10 נוהגים מתקדמים של חדרי שרתים ( datacenter Best Practices ) . הפעם אתמקד בנושא מיזוג האוויר בחדרי שרתים.
רבים ממנהלי חדר המחשב יודעים שעליהם ליישם מעברים קרים וחמים ולזווד פנלים עיוורים בארונות שרתים כדי למנוע חזרת אוויר חם אל קדמת הארון. על כן, לא אעסוק בנושאים טריוויאלים מעין אלו. אלא אתמקד בנוהגים מתקדמים אשר לא רבים בישראל נתנו עליהם את הדעת:
ניתן לחסוך בצריכת החשמל למיזוג בן 30% ל 50% על ידי הפרדה מוחלטת של אוויר קר וחם ועל ידי העלאת טמפרטורת העבודה. הפרדה מוחלטת של אוויר קר וחם מתבצעת על ידי הכלה ( Containment ) והעלאת טמפרטורת העבודה מתבצעת על ידי העלאת טמפרטורת המים הקרים למיזוג ( CW ) מ 7 מעלות ל 16 ואף 18 מעלות צלזיוס. נסביר…
1. הפרדה מוחלטת של אוויר קר וחם על ידי הכלה ( Containment ) של האוויר הקר ( Cold Containment ) או הכלה של האוויר החם ( Hot Containment ) . בחדרי שרתים הממוזגים בשיטת קירור החדר ( בדרך כלל על ידי מערכות ליברט ) הכלת האוויר הקר מתבצעת על ידי סגירת המעבר הקר או על ידי הכלת החום באמצעות ארונות ארובה. אגב, בשיטה הראשונה (סגירת מעבר קר) ניתן להגיע ל 15 קילוואט לארון שרתים ועל ידי ארונות ארובה ניתן להגיע ל KW 30 לארון שרתים.
2. שימוש במערכות קירור ממוקד הקרוי בדרך כלל "ארונות קרור מים" . קירור ממוקד זה יכול להיות מפוזר בשורות ( in row cooling ) או בתוך ארון השרתים באופן הקרוי InRack Cooling.
3. בשיטת קירור השורה ניתן לסגור את המעבר הקר או את המעבר החם. שתי השיטות טובות אם כי רבים ממש שונאים לעבוד במעבר חם סגור בשל אי הנוחות שבכך. קיימת שיטה היברידית אשר נקראת שיטת החדר הקר ( cool room concept ) אשר לה אייחד מאמר נפרד בקרוב והיא מיישמת את כל היתרונות של סגירת המעבר החם ללא החסרונות.
4. העלאת טמפרטורת העבודה. עד לאחרונה נהגו המתכננים לעבוד עם צ'ילרים שקררו את המים הקרים ל 7 מעלות צלזיוס. העלאת טמפרטורת המים הקרים ל 16 ואף 18 מעלות מספקת חיסכון בצריכת החשמל של כ 3% לכל מעלה. בחישוב זריז מדובר על חיסכון של כ 30% רק משינוי טמפרטורת העבודה.
אגב, העלאת טמפרטורת העבודה תאפשר גם לקבל כ 25% יותר קיבולת קירור מהצ'ילר אם כי נתון זה משתנה ממודל למודל.
חשוב מאוד: כדי ליישם שיטה מתקדמת זו הלכה למעשה יש לבחור מערכות In Rack או InRow המסוגלות לספק את קיבולת הקירור המקסימאליות בטמפרטורות CW אלו. ישנן מערכות, רחמנא ליצלן, שבטמפרטורות אלו של 16 מעלות מיים קרים קיבולת הקירור שלהן יורדת ב 50% ואך יותר. מיצרנים כאלו מומלץ להישמר.
5. מדידה ובקרה – אי אפשר לנהל ולייעל את מה שאינו נמדד. חיישנים וכלי תוכנה מתקדמים מודדים את יעילות צריכת האנרגיה ( PUE ) ומידת השימוש בתשתיות ומאפשרים קבלת החלטות ניהוליות מושכלות. לדוגמא: חישוב קל של החזר השקעה של IT Refresh .
6. מודולאריות בתכנון – השקעה בציוד תשתית לעומס מקסימאלי כבר בתחילת חיי חדר המחשב היא מתכון לבזבוז ולשיתוק היכולת לאמץ טכנולוגיות חדשות עם הזמן. תכנון מודולארי מאפשר מדרוג ההשקעה לאורך שנים ( pay as you grow ) וחיסכון משמעותי ב TCO. מודולאריות מאפשרת גם שימוש אופטימאלי בטכנולוגיות מתקדמות ובמוצרים חדישים.
7. ניהול בזמן אמת באמצעות כלי תוכנה – קצת עצוב שהתשתיות הפיזיות של חוות השרתים בישראל מנוהלות בדרך כלל בגיליונות אקסל. קיימים כלי תוכנה ( SPM, DC Track, Power IQ ) קלים לשימוש המאפשרים ניצול מיטבי של ההשקעה בתשתית, הצגת לוח מחוונים ( Dashboard ) בזמן אמיתי והעיקר: יכולת תגובה מהירה לשינויים.
ארגון אשר יישם את שבעת הנוהגים המתקדמים הללו ויפנים את העקרונות שעיצבו אותם, ישפר משמעותית את יעילות מיזוג האוויר של חדרי השרתים בכ 30%-50% , ויוכל לחסוך לארגון כספים רבים שישמשו אותו להקצאת משאבים להתעצמות.
תכנון חדרי מחשב וחוות שרתים
זה הסטנדרט המומלץ של אלכסנדר שניידר
למנמ"ר המתכנן את מרכז המחשוב ( datacenter ) החדש של הארגון, יש הזדמנות לנצל נוהגים מתקדמים ( Best Practices ) בתכנון חדרי שרתים, ולשפר את התשתית עליה נשען מערך ה IT תוך חיסכון בעלות כוללת. להלן "עשר הדיברות"
1.TCO – הגדירו את רמת היתירות הנדרשת וחשבו את העלות כוללת ל 10 עד 15 שנים. השקעה ראשונית גדולה במס' אחוזים יכולה לחסוך עשרות אחוזים ב TCO.
2.בחירת השרתים גם על פי צריכת האנרגיה – עלות התפעול (בעיקר אנרגיה חשמלית) של שרת לאורך שלוש שנים גבוהה יותר מעלות השרת עצמו. בחרו בחוכמה שכן השוני בין השרתים הוא משמעותי.
3.וירטואליזציה – שימוש בוירטואליזציה מאפשר חיסכון משמעותי ברכש חומרה ובעלות התפעול של חוות השרתים. עם זאת, צריכת האנרגיה של שרת פיזי שעליו 5-20 שרתים וירטואליים גבוהה משמעותית מבעבר ויש צורך בחשיבה עדכנית בתשתית החשמל ומיזוג האוויר.
4.צפיפות מחשוב גבוהה – העלות הכוללת של חדר שרתים עם צפיפות מחשוב גבוהה ( high density ) נמוכה משמעותית ממרכזי מחשוב המפזרים את המחשוב על שטח רצפה נרחב. עם זאת, נדרשת חשיבה מקצועית וחדשנית להתמודדות עם כבילה צפופה, תשתית חשמל ומיזוג אוויר לצפיפות גבוהה. כדאי להתגבר על הנטייה להיצמד לשיטות עבר – החיסכון הוא משמעותי.
5.מודולאריות בתכנון – השקעה בציוד תשתית לעומס מקסימאלי כבר בתחילת חיי חדר המחשב היא מתכון לבזבוז ולשיתוק היכולת לאמץ טכנולוגיות חדשות עם הזמן. תכנון מודולארי מאפשר מדרוג ההשקעה לאורך שנים ( pay as you grow ) וחיסכון משמעותי ב TCO. מודולאריות מאפשרת גם שימוש אופטימאלי בטכנולוגיות מתקדמות ובמוצרים חדישים.
6. מיזוג אוויר חדשני וממוקד. המיזוג הממוקד מאפשר התמודדות עם כל עומס, חיסכון באנרגיה חשמלית וניצול מיטבי של ההשקעה בתשתית. עם זאת, היזהרו ממוכרנים שממוקדים רק במה שכדאי להם למכור . ישנן מגוון שיטות כגון קירור פנים-ארון, קירור חדר, קירור שורה ולכל אחת מאלו ואריציות שונות. מה נכון? כל פרויקט לגופו על פי הדרישות, הצרכים והאילוצים. טיפ חשוב: בחדרים בהם מיזוג האוויר מבוסס על צ'ילרים: דרשו ממתכנן מיזוג האוויר לתכנן לפי טמפ' מים קרים של לפחות 12 מעלות צלזיוס. רצוי אף יותר. זה יביא לחיסכון עצום בצריכת החשמל ותקבלו הרבה יותר מהמערכות שהתקנתם.
7. הפרדה מוחלטת של אוויר קר ואוויר חם – אחת הסיבות העיקריות לבזבוז העצום במיזוג אוויר ובחשמל בחוות שרתים הוא חוסר ההפרדה בין אוויר קר לחם. שימוש בפנלים עיוורים הוא חובה בסיסית עם החזר השקעה של יומיים בערך. הפרדה בין המעבר הקר למעבר החם יכולה גם היא להביא לחיסכון משמעותי. גם כאן יש כר נרחב של אפשרויות: סגירת מעבר הקר (עם או בלי מערכות קירור מים), סגירת המעבר החם ( רק בשילוב מערכות קירור מים), שיטה היברידית ועוד.
8.ניהול בזמן אמת באמצעות כלי תוכנה – קצת עצוב שהתשתיות הפיזיות של חוות השרתים בישראל מנוהלות בדרך כלל בגיליונות אקסל. קיימים כלי תוכנה ( SPM, DC Track, Power IQ ) קלים לשימוש המאפשרים ניצול מיטבי של ההשקעה בתשתית, הצגת לוח מחוונים ( Dashboard ) בזמן אמיתי והעיקר: יכולת תגובה מהירה לשינויים.
9. מדידה ובקרה – אי אפשר לנהל ולייעל את מה שאינו נמדד. חיישנים וכלי תוכנה מתקדמים מודדים את יעילות צריכת האנרגיה ( PUE ) ומידת השימוש בתשתיות ומאפשרים קבלת החלטות ניהוליות מושכלות. לדוגמא: חישוב קל של החזר השקעה של IT Refresh .
10. הסמכה מבצעית של חדרי שרתים – טבען של תקלות בתכנון וביצוע של חדרי שרתים חדשים, הוא שהן מתגלות זמן רב לאחר העלייה לאוויר עם הצמיחה הטבעית בעומס. תקלות אלו גורמות לזמן דמימה ( downtime ) של חדרי שרתים קריטיים לארגון. ההסמכה המבצעית של אלכסנדר שניידר בוחנת תחת עומס אמיתי את כל מערכות חדר השרתים: מיזוג אוויר, חשמל , יתירות ויעילות אנרגטית. הבדיקה היא באמצעות אמולטורים של חומרה , חיישנים מתקדמים ותוכנת בקרה ייעודית. ההסמכה המבצעית מורידה דרמטית את ההסתברות לתקלות תשתית ומגלה את כל הבעיות לפני הכנסת מערכות האמת של ה IT לחדר השרתים החדש כאשר כל המערכות עדיין באחריות וכל המתכננים והקבלנים עדיין זמינים.
ארגון אשר יישם את עשרת הנוהגים המתקדמים הללו ויפנים את העקרונות שעיצבו אותם, ישפר משמעותית את יכולת חוות השרתים להגיב לצרכי הארגון, ויוכל לחסוך לארגון כספים רבים שישמשו אותו להקצאת משאבים להתעצמות.
אנו מקיימים ימי עיון לעיתים קרובות בנושא תכנון וניהול חדרי שרתים. למעוניינים כתבו לטלי שרון tali@schneider.co.il
מיגון: חדרי המחשב יורדים אל מתחת לאדמה
חדר שרתים ממוגן לפי BEST PRACTICES
הסיבה הברורה היא איום הרקטות והטילים. ישראל כולה בטווח של טילי האוייב. ברור לכל שפגיעה בחדר שרתים של ארגון חיוני למשק ,גם אם לא תגרום לאבדות בנפש, תגרום לנזק כלכלי עצום. בארגונים בסקטור העסקי, בעלי המניות עושים לעצמם חישוב פשוט: מה יקרה למחיר המניה אם יושבת חדר השרתים שלנו בגלל פגיעה קרובה או ישירה של רקטה או טיל. התוצאה: ארגונים רבים מחפשים לשכור או לרכוש נדל"ן המצוי מתחת לפני הקרקע. לי ידוע לפחות על שלושה פרויקטים גדולים שנמצאים בתהליך מתקדם בימים אלו בהיקף כולל של מעל 100 מיליון שקלים. חברת אלכסנדר שניידר מובילה שניים מהם.
לא מזמן אירחתי מלקוחות מחו"ל שהתפלאו על המגמה הייחודית הזו. ובכן, סיברתי את אוזניהם, בכל מקום ממגנים את הדטה סנטר כנגד איומי הייחוס הרלבנטים: הוריקן בחוף המזרחי של ארה"ב, טורנדו במרכז ארה"ב, רעידות אדמה במערב ארה"ב, דרום אמריקה, יפן, סין וטורקיה. שיטפונות בחלקים נרחבים של אירופה וכן הלאה. בישראל מתעלמים לפי שעה מהסיכון של רעידות אדמה אך מתייחסים ברצינות לסיכון הטילים. עניין של אופי.
מאחר וכאומה אנו לא מצטיינים בתכנון לטווח ארוך, ונדל"ן מסוג זה אינו מצוי בידי הארגונים, הרי שיש למצוא אותם בשוק החופשי. החדשות הטובות הן שיש די הרבה נדלן בדמות חניונים וקומות מרתף פנויות ומחירן יחסית זול משום שהן אינן ראויות לאכלוס משרדי. הרשויות בד"כ משתפות פעולה אם נדרש שינוי ייעוד אם כי נדרש לעניין עו"ד טוב. ועורכי דין, ברוך השם, לא חסר במדינתנו.
לפני שחותמים חוזה שכירות ארוך טווח, כדאי לבדוק כמה דברים: זמינות של תשתיות לאספקת חשמל שתידרש לאורך חיי המתקן, האפשרות להתקין תשתיות למיזוג אוויר, מיגון מפני הצפה, תשתית תקשורת , דרכי גישה ועוד גורמים רבים שיש לבדוק באמצעות סקר מקצועי.
אחד המאפיינים של קומות תת קרקעיות זמינות בדרך כלל הוא מגבלה של גובה. לאלו שלא חיים את עולם חדרי השרתים, נקצר ונאמר שהגובה נדרש לצורך מעבר של ספיקת אוויר מספקת לצרכי מיזוג אוויר. גובה של 4 עד 5 מטר נחשב מספק. במרבית החניונים והנדלן התת קרקעי הגובה המצוי הוא מתחת ל 3 מטר. אל דאגה, באמצעים הטכנולוגיים של היום ניתן לבנות חדר שרתים נפלא בגובה זה באמצעות קירור בצמידות גבוהה הקרוי בפי העם, קצת בטעות, קירור מים.
אז אם אתה הבעלים של שטח נדלני תת קרקעי שניסית להשכיר ללא הצלחה במשך שנים, דע לך שבהנחה שהתקיימו הגורמים הנ"ל מהיום אתה הבעלים של אתר תשתית לדטה סנטר.
בתמונה חדר שרתים מתקדם תת קרקעי של אחד מלקוחותינו. למרות המיקום באתר "קלאוסטרופובי" החדר הוא אחד המתקדמים בישראל. כל ארון שרתים מתוכנן לשאת עומס של עד 15 קילוואט. יחידות מיזוג האוויר תוצרת Knurr Emerson מוצבות בין הארונות לפי עיקרון קירור שורה Inrow .
והערה אישית: לאחר הפסקה ארוכה של כתיבה בבלוג, ולאחר שקיבלתי לא מעט הערות נבזיות מידידי בתעשייה על כך שהפסקתי לכתוב, אני חוזר למוטב ומחדש את הרענון השוטף של בלוג חדרי השרתים.
גל של חדשנות בחדרי המחשב
גל של חדשנות שוטף את טכנולוגיות הדטה סנטר בעולם ובישראל. תחום חדרי המחשב היה תמיד פעיל מאוד אך מנומנם ברמה הטכנולוגית. בשנים האחרונות חוקי התכנון השתנו לחלוטין וכך גם הנוהגים המיטביים ( Best Practices ).
לפני מס' חודשים נועדתי עם חברה ישראלית המתכננת חדר מחשב חדש שיעלה לאוויר, לפי תוכניותיהם, ב 2015. אמנם אני מצדיע לחברות ישראליות החושבות לטווח ארוך, אך הדבר גרם לי להרהר נוגות בלוחות הזמנים הנהוגים לעיתים בתעשייה שלנו. פרויקט הקמה של אולם מחשוב הוא פרויקט מורכב, יצירת אומנות יחידנית אשר הכול בה מפותח מאפס ונתפר כולו לפי צרכי הלקוח. נכון? לא בהכרח.
אחת המגמות המתחזקות בתחום חדרי המחשב היא מודולים המבוססים על מערכות בתצורות אשר נוסו ונבדקו במפעל ( pre-configured ), וקל להתקינם בחדר המחשב ולדעת מראש את רמת הביצועים שנקבל ( Pre-engineered ). הרחבה והגדלה ניתנים לביצוע בקלות יחסית ( scalable ) .
הגישה החדשה מאפשרת הקמה מהירה יותר, השקעה התחלתית נמוכה יותר, מתקנים יעילים יותר ולכן גם הוצאות תפעול נמוכות יותר לאורך חיי חדר המחשב.
מאחר וחברה מקימה לעצמה חדר מחשב אחת לכל 5 עד 20 שנים, הרי כשארגון מבקש להקים לעצמו חדר מחשב חדש, זו התנסות חדשה לרוב מובילי הפרויקט. אל צוות המפעל חוברים יועצים וקבלנים חיצוניים שלהם יותר ניסיון (אנו מקווים) ונוצר צוות פרויקט אשר אין לו ניסיון משותף. הצוות מתחיל את התכנון מאפס (דבר משתלם ביותר למתכננים) ונשען על ידע לא מושלם ולא עדכני. זו הסיבה העיקרית לכך ששלב התכנון אורך בדרך כלל חודשים רבים (במקרים אחדים גם מספר שנים), כמו גם שלב הבניה, ושהפרויקט ברובו מבוסס על ניסוי וטעייה ולא על נוהגים מיטביים. גם בהתחשב בעבודה הקשה של צוות הפרויקט, עלות התמשכות הפרויקט והטעויות בהחלטות התכנוניות עולים לארגון כסף רב. התוצאה הסופית היא חדר מחשב ייחודי באמת אשר אין זהה לו והדבר נזכר כאן לא כמחמאה (אולי להיפך) אלא כציון עובדה.
התופעות הללו מתרחשות לא רק בחדרי מחשב הנבנים במבנה חדש על קרקע בתולית (Greenfield data center ) אלא גם בפרויקטים של שדרוג חדרי מחשב ( datacenter upgrade ). גבשדרוג חדרי מחשב מדובר בד"כ בהוספת יכולות של אספקת חשמל ומיזוג אוויר ושיפור מערך הכבילה. וגם כאן צוותים שהוקמו אד-הוק עובדים כדי לשדרג את חדר מחשב. במרבית המקרים גם פרויקטים אלו יכולים להיות מנוהלים ביותר יעילות אם ישתמשו ב"אבני בנין" שהן Pre-Engineered, Pre-Configured.
הנוהגים המיטביים מאפשרים היום הוספת מודולים פנימיים ( Pods ) המכילים מס' משתנה של ארונות שרתים, מערכות מיזוג ממוקד ומערכות חלוקת חשמל המורידות באופן דרמטי את זמני התכנון והיישום הנדרשים כמו גם את העלויות. ראו תמונה של POD שבו ארונות שרתים, מיזוג אוויר ותקשורת. ניתן לשלב גם אל פסק (אם כי לא נהוג).
ניתן להרחבה ושכפול באופן מודולארי
דוגמא נאה לצורך המחשה היא חדר מחשב הנבנה על פי השמועה על ידי מייקרוסופט באיידהו שבארה"ב. גודל החדר כ MW 5, ענק במושגים ישראליים אך לא במושגי מייקרוסופט, והוא יושלם תוך 28 שבועות מיום חתימת החוזה. החדר בנוי ממודולים של KW 600 כ"א כל מודול בנוי ממספר מבנים טרומיים המובלים לאתר במשאית ומחוברים תוך ימים לתשתית. ראו תמונה של חדר אנרגיה של MW 1 אשר הותקן ב 5 ימים.
חדר אנרגיה של MW 1 ב 5 ימים. נבנה במפעל. הורכב באתר.
דוגמא נוספת: בוודאי שמעתם על מיזם ה VBLOCK של EMC ו CISCO. ובכן, אם חשקה נפשכם במתקן אחסון ( storage ) מתקדם ביותר, בוודאי ששקלתם את ה VBLOCK. ובכן ניתן לרכוש את ה VBLOCK ב 6 תצורות: V0, V1, V2 וכל אחת מהן ברמת מינימום ומקסימום. חברת פנדויט ( Panduit ) מציעה לדוגמה את כל התשתית הפיזית ל VBLOCK ברמה הנדרשת במק"ט אחד. ראו תמונה:
במקט אחד: ארונות וכל התשתית הפיזית ל VBLOCK
לקחים מתקלות בחדרי מחשב 2 #
מוקד השרות שלנו קיבל את הקריאה. התראה על נזילת מים התקבלה מחדר המחשב של אחד מלקוחותינו. חוות השרתים הושבתה. צוות השירות שלנו הוזנק למקום.
מדובר בחדר מחשב מתקדם שבו מיזוג האווויר מבוסס ברובו על יחידות קירור שורה ( ROW COOLING ) מסוג cooloop של קנור אמרסון. זהו חדר בינוני בגודלו (עומס IT של מאות קילוואט) אך מתקדם ומקצועי מאוד. האם הנזילה מקורה בתשתית מיזוג האוויר שאנו התקנו?
בעוד הצוות בדרכו לאתר, הגיעה צפירת ההרגעה. מסתבר שהמנקה החרוצה של אותו אתר, החליטה לשטוף את רצפת חדר המחשב. מי השטיפה הגיעו לאחד מחיישני המים מתחת לרצפה הצפה והפעילו את מערכת ההתראה וזו השביתה את יחידות מיזוג האוויר.
מסקנות ולקחים:
1. כניסת המנקה לחדר הייתה צריכה להיות מפוקחת. אין להכניס דלי מים לדטה סנטר. הדלי צריך להישאר מחוץ לאולם המחשב או בפנים בסמוך לדלת הכניסה. את הרצפה הצפה יש לנקות עם סמרטוט לח בלבד. על עובדי הניקיון לעבור הדרכה מתאימה ולעבוד תחת פיקוח.
2. המערכת עבדה כפי שתוכננה. אך האם הנוהל היה נכון? על מנהל חדר המחשב להחליט האם באמת יש צורך בהשבתת מערכות המיזוג כתוצאה מהתראה של חיישן אחד. לדעתנו, לא.
יש לכם סיפור טוב על לקוחים מתקלות בחדרי מחשב ? שתפו את הקהילה כתבו לי
יגאל שניידר
10 המגמות המובילות בדטה סנטר ב 2010
מרבית חדרי המחשב נמצאים במצוקה ברמת התשתית הפיזית: בעיות מיזוג אוויר קשות, אספקת חשמל, ניהול כבילה לא מוקפד, משקל כבד ביחס ליכולת הנשיאה של הרצפה, חוסר במקום פיזי, חשבון חשמל צומח במהירות ובעיקר: הניהול נהיה מורכב יותר וקשה יותר.
כתוצאה נראה ב 2010 את 10 המגמות הללו צוברות תאוצה:
1. תוכנות ניהול ל Data Center כדוגמת תוכנת ה DC TRACK של חברת Raritan לניהול חדרי מחשב. תוכנה זו מאפשרת ניהול מקצועי של החדר וניצול מקסימאלי של התשתיות המותקנות. לדוגמא, מנהל חדר המקבל לידיו, נניח, 10 שרתים של U1 הצורכים ביחד KW5, יוכל לקבל בלחיצת כפתור את הנתון הבא: באיזה ארון שרתים בחדר יש מקום פיזי, יש שקעי נחושת פנויים, שקעי אופטיקה פנויים, קיבולת חשמל מתאימה, קיבולת מיזוג אוויר מספיק וכ'.
2. Liquid Cooling : לפני כ 5-6 שנים הצגנו את הטכנולוגיה של הקירור הממוקד לשוק הישראלי. רבים מידידנו אמנם התרשמו מהטכנולוגיה אך הטילו ספק בנחיצותה. היום אנו יכולים לומר מעבר לכל ספק שהטכנולוגיה הזו הגיעה לזרם המרכזי. יש לנו כ 400 מערכות מותקנות בישראל מתוך בערך כ 500 סה"כ.
אפשר להזכיר את חדר המחשב של תהיל"ה, חדר המחשב החדש של בנק ישראל, פרויקט מרשים של חיל הים, אינטל (ראו סרט של אינטל ביו טיוב או בפוסט הקודם), חדרי מחשב ברפאל, בחוות מחשוב עננים של טריפל סי ועוד רבים אחרים.
אך יש שני דגשים חשובים מעבר לנושא High Density . המערכות שאנו ממליצים עליהן מסוגלות לתת ביצועים מצוינים גם בטמפרטורות מים קרים של 16 ואף 18 מעלות (במקום 6 מעלות כנהוג במערכות מיזוג אוויר). כל מעלה מאפשרת חיסכון של 3%-4% בחשבון החשמל.
בנוסף חשוב לבחור במערכות מודולאריות. כאלו שמאפשרות לעלות מ 10kw ל kw 40 ללא קושי.
3. סגירת המעבר הקר: המערכות הזולות ביותר, הן אלו שאנו לא צריכים לרכוש. סגירת המעבר הקר מאפשרת שדרוג אפקטיבי של חדרי מחשב קיימים וניצול מקסימאלי של התשתיות הקיימות. מדובר בסגירה מכאנית של האוויר הקר, שדרוג תוכנה למערכות המיזוג ובמקרים מסוימים החלפת מאווררים ביחידות המיזוג. היתרונות: יכולת מיזוג האוויר אפקטיבית יותר ב 50%. כתבו לי לקבלת עותק מוקדם של whitepaper שכתבנו בנושא.
4. בקרה על צריכת האנרגיה ( PUE ) יותר ויותר ארגונים מודדים את ה PUE . יחס יעילות האנרגיה של התשתית. כדי להשתפר, עלינו לדעת היכן אנו היום.
5. Intelligent RPDU : פסי השקעים המתקדמים הם אבן בנין חשובה וחיונית בחדר המחשב המתקדם. RPDU מאפשרים איסוף מידע בזמן אמיתי של צריכת החשמל ופליטת החום של כל שרת וכל ארון, וקבלת מידע לצורך שימור שרידות ויתירות אמת.
6. ניהול הרצפה הצפה פתרונות כגון Cool Boot ו Kold LOK מונעים בריחת אוויר קר מפתחים לא מבוקרים ברצפה הצפה. מאפשר השבת קיבולת קירור "אבודה".
7. פסי צבירה ( Bus Ways ) כאשר תשתית החשמל מבוססת על כבלים, כל שינוי אורך שבועות וחודשים ומצריך תקציב של עשרות ואף מאות אלפי שקלים. שימוש בפסי צבירה מאפשר למנהלי הדטה סנטר לבצע שינויים באופן מיידי ללא צורך בתקציב נוסף. ראו פוסט קודם בנושא פסי צבירה של Starline .
8. ארונות ייעודיים למתגי תקשורת מתגי סיסקו החדשים מחייבים התייחסות מקצועית גם ברמת התשתית. ביחוד ה ,Nexus 7010, 7018. ארונות ייעודיים של Panduit תוכננו יחד עם סיסקו במיוחד למתגים אלו. היתרון: פתרון לנושא הכבילה ומיזוג האוויר.
9. מדבקות RFID מאפשרות לדעת בכל רגע נתון, בזמן אמיתי, אילו מערכות יש לנו בחדר והיכן הן בדיוק. מוכנות ל AUDIT בכל רגע נתון ואבטחת החומרה.
10. סימולציה ב CFD תוכנה הנדסית אשר מאפשרת בניית מודל טרמי של חדר המחשב והדמייה של תרחישים שונים לבדיקת תכנון מיזוג האוויר, אימות יתירות, אפקטיביות התכנון ובחירה בין אלטרנטיבות. מומלץ מאוד גם לתכנון חדר חדש וגם לתכנון שדרוג.
הצצה לחדר המחשב של אינטל ישראל
אינטל ישראל מספקת הצצה נדירה לחדר המחשב שלה. ניתן להתרשם מהסדר וההקפדה על נוהגים מתקדמים( Datacenter Best Practices ) בסרט אותו מנחה עופר ליאור , מנהל הדאטה סנטר באינטל חיפה.
אישית רוויתי נחת מהצגת ארונות High Density המבוססים על קירור מים שסופקו על ידינו, חברת אלכסנדר שניידר. מדובר בארונות Cooltherm תוצרת קנור (Knurr ) , שבהם מחליף החום נמצא בתחתית הארון ( In-Rack Cooling ) . בשל הקירור הממוקד ניתן לקרר עד KW 35 בארון ו/או לחסוך הרבה מאוד כסף בחשבון החשמל. זו המערכת היעילה ביותר ל high density הקיימת היום בשוק.
בכל ארון כזה עובדים 6 בלייד סנטרים ( 84 שרתים) . עוד חשוב לדעת שיחידות אלו צורכות מים קרים בטמפרטורה של 16 מעלות, דבר המקנה לדטה סנטר חיסכון משמעותי בחשבון החשמל וניצול מקסימאלי של יכולות הצ'ילר.
למען הסר ספק, השורות למטה הן תוספות שלי ואינן מוצגות בסרט:
למי שלא עוקב אחרי נושאים אלו ביומיום, אציין שבדרך כלל, מערכות מיזוג אוויר דורשות מים קרים בטמפרטורה של 6-7 מעלות כדי לספק קירור ברמה המתקרבת לטענות אנשי השיווק שלהם.
מערכת כגון זו שלנו, המאפשרת להגיע לקיבולת קירור מליאה ב 16 מעלות מים קרים מספקת את היתרונות הבאים
1. חיסכון של 30% חשבון החשמל לקירור ( 3% לכל מעלת צלזיוס)
2. אין בזבוז אנרגיה הנגרם מהוצאת והשבת לחות לאוויר
3. הצ'ילרים נותנים יותר קיבולת קירור בטמפרטורות מים גבוהות
תודה לאינטל שמשתפת את השוק בתובנות שפיתחה ומסייעת לתעשייה להתייעל ולחסוך באנרגיה חשמלית.
ארונות שרתים מבוססי קירור מים בבנק ישראל
הדטה סנטר החדש של בנק ישראל נחנך בתחילת חודש אוקטובר בהשתתפות נגיד בנק ישראל סטנלי פישר.
מיזוג האוויר בחוות השרתים של בנק ישראל מבוסס על מערכות קירור שורה CoolLoop של Knurr-Emerson. אלו יחידות המבוססות על קירור מים( KW 30 כ"א ) וממוקמות בין ארונות השרתים. שם המותג הוא coolloop אך השם הגנרי של יחידות אלו הוא DECS אם כי יש כאלו שקוראים להם InRow או Inline.
לטעמי בחירת בנק ישראל במערכות Coolloop של חברת Knurr-Emerson מדגישה את המודעות הגוברת של ארגונים בישראל לחשיבות תכנון וניהול יעיל של חדרי מחשב, תוך מתן דגש על טכנולוגיות "ירוקות" שמביאות לחיסכון משמעותי בהוצאות התפעול. אחד המאפיינים של פרויקטים מסוג זה הוא השימוש במערכות מיזוג אוויר מתקדמות המבוססות על ארונות קירור מים .
טכנולוגיה זו של קירור ממוקד שהצגנו לשוק הישראלי ב 2004, הופכת יותר ויותר לפתרון הנבחר. זאת בשל היכולת לקלוט ולקרר בקלות ארונות מחשוב מתקדם בעל הספקים גבוהים תוך חיסכון משמעותי בחשמל ובשטח רצפה ותוך שיפור שרידות החדר .
בנוסף למערכות מיזוג האוויר הפנימיות, הותקנו בפרויקט זה ארונות שרתים עם מחשבה לעתיד ( למשקל נשיאה של 1500 ק"ג וחירור אופטימאלי של דלתות ל 83% ראו פוסט בנושא best practices לבחירת ארון שרתים ) , ארונות תקשורת של Panduit המיועדים לניהול כבילה מתקדם ומומלצים על ידי סיסקו, מערכות KVM של Raritan וכן פסי שקעים חכמים ( PDU ) עם תוכנות ניהול מתקדמות המאפשרות בקרה על צריכת החשמל בזמן אמיתי .
בשל האיסור לצלם באתר, התמונה המופיעה מעלה היא להמחשה בלבד ולקוחה מאתר אחר בישראל בסדר גודל דומה.
חדר של חצי מגה וואט ב 20 ארונות שרתים
חדר של חצי מגה-וואט, ב-20 ארונות מקוררי מים. זהו אמנם סרטון פרסומי של קנור-אמרסון אבל מעניין לראות איך עובדים בגרמניה. אגב, זו לא טכנולוגיה אקזוטית. הותקנו מעל 300 ארונות כאלו בישראל.
מה הטמפרטורה המומלצת בחדר המחשב / חדר השרתים?
מאחר ומפת הטמפרטורה אינה אחידה בחדר המחשב, קודם כל חשוב לשאול מהי הטמפרטורה הרלבנטית? התשובה היא שהטמפרטורה הרלבנטית היא בכניסה לשרתים ולציוד ה IT. כלומר בקדמת ארון השרתים. כך, אגב, גם לגבי הלחות היחסית. הטמפרטורה בחלקו האחורי של הארון או במקומות אחרים בחדר מעניינת אך לא קריטית. כל עוד ציוד ה IT מקבל ספיקת אוויר מספקת בטמפרטורה הנכונה דיינו.
ארגון ASHRAE שמנחה את התעשייה קובע שטווח הטמפרטורה המומלץ לתפעול אופטימאלי של השרתים הוא בין 18 ל 26 מעלות צלזיוס (כאמור, בכניסת האוויר לשרתים, לא ביציאה). עד ל 2008 הטווח המומלץ היה בין 20 ל 25 מעלות אך טווח זה הורחב לאחרונה (ASHRAE 2009) כדי לאפשר חיסכון באנרגיה ולהקל על תפעול החדר.
קיימת גישה מוטעית בקרב רבים וטובים בתעשייה שאינם מאושרים אלא אם כן הטמפרטורה בחדר קרה מאוד עד כדי אי נוחות. טמפרטורה של 24 מעלות גורמת לאנשים אלו הרגשה לא נוחה למרות שזו טמפרטורה אופטימאלית. זהו קיבעון מחשבתי. אין צורך להכות אותם. טיפול רגוע וסבלנות יחזירו אותם לדרך הישר.
האתגר כמובן הוא לגרום לאחידות הטמפרטורה בקדמת הארון לכל גובהו. זו הבעיה העיקרית. בשל חוסר היעילות המובנה בתכנון מיזוג האוויר בחדרי מחשב רבים, סובלים רבים ממוקדי חום בחלקים העליונים של ארונות השרתים. כדי להילחם בתופעה זו, מגבירים את הקירור ומקבלים טמפרטורות קור קיצוניות ומזיקות (מתחת ל 15 מעלות – אסור). תופעה זו של קירור מוגזם של חדר המחשב כדי למנוע מס' מוקדי חום, לא רק מזיקה לציוד אלא גם מבזבזת חשמל ומביא להוצאות מטורפות בחשבון החשמל.
מס' פתרונות מקובלים
סגירת המעבר הקר והעלאת טמפרטורת האוויר הנכנס והחוזר – לכך אתייחס בפוסט הבא.
קירור אינטגראלי בתוך הארון ( ארונות מקוררי מים) – ראו פוסטים קודמים
The Data Center Blog - חדרי מחשב, הקמת אולמות מחשב, חדרי שרתים, חוות שרתים, KVM, ניהול כבילה, UPS, green IT 
