Posts tagged ‘row cooling’
UNIVERSAL CONTAINMENT; HOT OR COLD AISLE CONTAINMENT
סגירת המעבר הקר (או סגירת המעבר החם) היא הכרחית היום בחוות שרתים. ללא הפרדה ראויה מובטח בזבוז עצום במיזוג האוויר, דבר המוביל לעלות גבוהה ברכש (מיותר) של מערכות מיזוג אוויר ובעלות גבוהה (מאוד) של חשמל. זאת בנוסף לבעיות חום המשפיעות לרעה על תפקוד חוות השרתים, גמישותה ועל הרציפות העסקית.
בסגירת המעבר אנו מגיעים לאופטימיזציה של מיזוג האוויר בזכות הפרדה של אוויר קר וחם, מניעה של אוויר חם החוזר לקדמת השרתים, תיעול כל האוויר הקר אל השרתים ומניעת "בריחתו" ( דבר הקרוי BYPASS AIR ) ומבטיחים את יעילות מחליף החום ביחידת המיזוג. לא ניכנס לזה עכשיו.
בעולם נהוג היום יותר ויותר לסגור את המעבר הקר. לא ניכנס לדיון מדוע בפוסט זה. עם זאת נהוג להבדיל בין שני סוגי מתקנים:
BROWNFIELD :מתקן קיים, חוות שרתים עובדת שאותה אנו רוצים לשדרג ולטייב, אם אפשר, ללא השבתה. במתקן כזה סגירת המעבר הקר היא האופציה היחידה כמעט. למעט הקמת POD חדש המבוסס על יחידות קירור מים.
GREENFIELD : מתקן חדש . כאן ניתן לבצע הפרדת אוויר קר וחם במגוון שיטות. דוגמאות: ארונות ארובה, סגירת מעבר קר עם או בלי יחדות קירור מים, סגירת מעבר חם ועוד.
מאחר וסגירת המעבר קשה יותר כאשר אין בידינו את כל ארונות ה IT שטרם נרכשו עדיין, ולחלופין יש לנו ארונות בגבהים שונים וברוחב שונה, פותחה על ידי חברת פנדויט ( PANDUIT ) שיטה אוניברסלית לסגירת מעברים. ראו:
7 דרכים למיזוג אוויר יעיל אנרגטית בחדרי שרתים.
מאז אוגוסט 2011 עלו מחירי החשמל בישראל ביותר מ30% (נכון לפברואר 2012). למי שמנהל חדרי שרתים, עובדה זו כואבת במיוחד משום שעלויות צריכת החשמל של חדרי המחשב הגיעו ל 20-25% מהוצאות התפעול השוטפות. בשל הדרך בה תוכננו חדרי השרתים או בשל הדרך בה הם מנוהלים, חלק משמעותי מצריכת האנרגיה מקורה בבזבוז בעיקר בשל חוסר יעילות בדרכי מיזוג האוויר.
בארגונים נאורים בהם חשבון החשמל של חדרי השרתים נבחן בדקדקנות, העלייה בצריכת החשמל הביאה לבחינה מחודשת של דרכי התכנון והניהול של מרכזי המחשוב. בארגונים פחות נאורים, חשבון החשמל משולם על ידי גוף תפעול מרכזי שאינו מסוגל לנתח את הנתונים והתוצאה היא בזבוז שעלותו מאות אלפי ואף מיליוני שקלים בשנה, תלוי בגודל המתקן. לדוגמא: במתקן של ארגון בינוני שבו כ 400 שרתים, צריכת החשמל של השרתים תהיה כ 200 קילוואט לערך. צריכת החשמל הכוללת של המתקן תכלול גם את צריכת החשמל למיזוג אוויר ולמערכות תשתית נוספות. בחדר מחשב בגודל זה המופעל היטב ( PUE=1.5 ) חשבון החשמל הכולל יהיה כ מיליון וחצי ₪ בשנה. בחדר מחשב בגודל דומה המנוהל ללא מתן חשיבות לצריכת החשמל ( PUE=3 ) , ויש רבים כאלו בישראל, חשבון החשמל יעלה כ 3 מיליון ₪, בזבוז של מיליון וחצי ש"ח בשנה או 15 מיליון ₪ בעשר שנים. להסבר על PUE
למי שלא בחן את הנושא מקרוב עד כה, אציין רק שעלות החשמל הנדרשת להפעיל ולקרר שרת מתקדם לאורך 3 שנים גבוהה יותר מעלות השרת עצמו.
בארונות INRACK אלו טמפרטורת מיים קרים של 18 מעלות
בפוסט הקודם תיארתי 10 נוהגים מתקדמים של חדרי שרתים ( datacenter Best Practices ) . הפעם אתמקד בנושא מיזוג האוויר בחדרי שרתים.
רבים ממנהלי חדר המחשב יודעים שעליהם ליישם מעברים קרים וחמים ולזווד פנלים עיוורים בארונות שרתים כדי למנוע חזרת אוויר חם אל קדמת הארון. על כן, לא אעסוק בנושאים טריוויאלים מעין אלו. אלא אתמקד בנוהגים מתקדמים אשר לא רבים בישראל נתנו עליהם את הדעת:
ניתן לחסוך בצריכת החשמל למיזוג בן 30% ל 50% על ידי הפרדה מוחלטת של אוויר קר וחם ועל ידי העלאת טמפרטורת העבודה. הפרדה מוחלטת של אוויר קר וחם מתבצעת על ידי הכלה ( Containment ) והעלאת טמפרטורת העבודה מתבצעת על ידי העלאת טמפרטורת המים הקרים למיזוג ( CW ) מ 7 מעלות ל 16 ואף 18 מעלות צלזיוס. נסביר…
1. הפרדה מוחלטת של אוויר קר וחם על ידי הכלה ( Containment ) של האוויר הקר ( Cold Containment ) או הכלה של האוויר החם ( Hot Containment ) . בחדרי שרתים הממוזגים בשיטת קירור החדר ( בדרך כלל על ידי מערכות ליברט ) הכלת האוויר הקר מתבצעת על ידי סגירת המעבר הקר או על ידי הכלת החום באמצעות ארונות ארובה. אגב, בשיטה הראשונה (סגירת מעבר קר) ניתן להגיע ל 15 קילוואט לארון שרתים ועל ידי ארונות ארובה ניתן להגיע ל KW 30 לארון שרתים.
2. שימוש במערכות קירור ממוקד הקרוי בדרך כלל "ארונות קרור מים" . קירור ממוקד זה יכול להיות מפוזר בשורות ( in row cooling ) או בתוך ארון השרתים באופן הקרוי InRack Cooling.
3. בשיטת קירור השורה ניתן לסגור את המעבר הקר או את המעבר החם. שתי השיטות טובות אם כי רבים ממש שונאים לעבוד במעבר חם סגור בשל אי הנוחות שבכך. קיימת שיטה היברידית אשר נקראת שיטת החדר הקר ( cool room concept ) אשר לה אייחד מאמר נפרד בקרוב והיא מיישמת את כל היתרונות של סגירת המעבר החם ללא החסרונות.
4. העלאת טמפרטורת העבודה. עד לאחרונה נהגו המתכננים לעבוד עם צ'ילרים שקררו את המים הקרים ל 7 מעלות צלזיוס. העלאת טמפרטורת המים הקרים ל 16 ואף 18 מעלות מספקת חיסכון בצריכת החשמל של כ 3% לכל מעלה. בחישוב זריז מדובר על חיסכון של כ 30% רק משינוי טמפרטורת העבודה.
אגב, העלאת טמפרטורת העבודה תאפשר גם לקבל כ 25% יותר קיבולת קירור מהצ'ילר אם כי נתון זה משתנה ממודל למודל.
חשוב מאוד: כדי ליישם שיטה מתקדמת זו הלכה למעשה יש לבחור מערכות In Rack או InRow המסוגלות לספק את קיבולת הקירור המקסימאליות בטמפרטורות CW אלו. ישנן מערכות, רחמנא ליצלן, שבטמפרטורות אלו של 16 מעלות מיים קרים קיבולת הקירור שלהן יורדת ב 50% ואך יותר. מיצרנים כאלו מומלץ להישמר.
5. מדידה ובקרה – אי אפשר לנהל ולייעל את מה שאינו נמדד. חיישנים וכלי תוכנה מתקדמים מודדים את יעילות צריכת האנרגיה ( PUE ) ומידת השימוש בתשתיות ומאפשרים קבלת החלטות ניהוליות מושכלות. לדוגמא: חישוב קל של החזר השקעה של IT Refresh .
6. מודולאריות בתכנון – השקעה בציוד תשתית לעומס מקסימאלי כבר בתחילת חיי חדר המחשב היא מתכון לבזבוז ולשיתוק היכולת לאמץ טכנולוגיות חדשות עם הזמן. תכנון מודולארי מאפשר מדרוג ההשקעה לאורך שנים ( pay as you grow ) וחיסכון משמעותי ב TCO. מודולאריות מאפשרת גם שימוש אופטימאלי בטכנולוגיות מתקדמות ובמוצרים חדישים.
7. ניהול בזמן אמת באמצעות כלי תוכנה – קצת עצוב שהתשתיות הפיזיות של חוות השרתים בישראל מנוהלות בדרך כלל בגיליונות אקסל. קיימים כלי תוכנה ( SPM, DC Track, Power IQ ) קלים לשימוש המאפשרים ניצול מיטבי של ההשקעה בתשתית, הצגת לוח מחוונים ( Dashboard ) בזמן אמיתי והעיקר: יכולת תגובה מהירה לשינויים.
ארגון אשר יישם את שבעת הנוהגים המתקדמים הללו ויפנים את העקרונות שעיצבו אותם, ישפר משמעותית את יעילות מיזוג האוויר של חדרי השרתים בכ 30%-50% , ויוכל לחסוך לארגון כספים רבים שישמשו אותו להקצאת משאבים להתעצמות.
תכנון חדרי מחשב וחוות שרתים
זה הסטנדרט המומלץ של אלכסנדר שניידר
למנמ"ר המתכנן את מרכז המחשוב ( datacenter ) החדש של הארגון, יש הזדמנות לנצל נוהגים מתקדמים ( Best Practices ) בתכנון חדרי שרתים, ולשפר את התשתית עליה נשען מערך ה IT תוך חיסכון בעלות כוללת. להלן "עשר הדיברות"
1.TCO – הגדירו את רמת היתירות הנדרשת וחשבו את העלות כוללת ל 10 עד 15 שנים. השקעה ראשונית גדולה במס' אחוזים יכולה לחסוך עשרות אחוזים ב TCO.
2.בחירת השרתים גם על פי צריכת האנרגיה – עלות התפעול (בעיקר אנרגיה חשמלית) של שרת לאורך שלוש שנים גבוהה יותר מעלות השרת עצמו. בחרו בחוכמה שכן השוני בין השרתים הוא משמעותי.
3.וירטואליזציה – שימוש בוירטואליזציה מאפשר חיסכון משמעותי ברכש חומרה ובעלות התפעול של חוות השרתים. עם זאת, צריכת האנרגיה של שרת פיזי שעליו 5-20 שרתים וירטואליים גבוהה משמעותית מבעבר ויש צורך בחשיבה עדכנית בתשתית החשמל ומיזוג האוויר.
4.צפיפות מחשוב גבוהה – העלות הכוללת של חדר שרתים עם צפיפות מחשוב גבוהה ( high density ) נמוכה משמעותית ממרכזי מחשוב המפזרים את המחשוב על שטח רצפה נרחב. עם זאת, נדרשת חשיבה מקצועית וחדשנית להתמודדות עם כבילה צפופה, תשתית חשמל ומיזוג אוויר לצפיפות גבוהה. כדאי להתגבר על הנטייה להיצמד לשיטות עבר – החיסכון הוא משמעותי.
5.מודולאריות בתכנון – השקעה בציוד תשתית לעומס מקסימאלי כבר בתחילת חיי חדר המחשב היא מתכון לבזבוז ולשיתוק היכולת לאמץ טכנולוגיות חדשות עם הזמן. תכנון מודולארי מאפשר מדרוג ההשקעה לאורך שנים ( pay as you grow ) וחיסכון משמעותי ב TCO. מודולאריות מאפשרת גם שימוש אופטימאלי בטכנולוגיות מתקדמות ובמוצרים חדישים.
6. מיזוג אוויר חדשני וממוקד. המיזוג הממוקד מאפשר התמודדות עם כל עומס, חיסכון באנרגיה חשמלית וניצול מיטבי של ההשקעה בתשתית. עם זאת, היזהרו ממוכרנים שממוקדים רק במה שכדאי להם למכור . ישנן מגוון שיטות כגון קירור פנים-ארון, קירור חדר, קירור שורה ולכל אחת מאלו ואריציות שונות. מה נכון? כל פרויקט לגופו על פי הדרישות, הצרכים והאילוצים. טיפ חשוב: בחדרים בהם מיזוג האוויר מבוסס על צ'ילרים: דרשו ממתכנן מיזוג האוויר לתכנן לפי טמפ' מים קרים של לפחות 12 מעלות צלזיוס. רצוי אף יותר. זה יביא לחיסכון עצום בצריכת החשמל ותקבלו הרבה יותר מהמערכות שהתקנתם.
7. הפרדה מוחלטת של אוויר קר ואוויר חם – אחת הסיבות העיקריות לבזבוז העצום במיזוג אוויר ובחשמל בחוות שרתים הוא חוסר ההפרדה בין אוויר קר לחם. שימוש בפנלים עיוורים הוא חובה בסיסית עם החזר השקעה של יומיים בערך. הפרדה בין המעבר הקר למעבר החם יכולה גם היא להביא לחיסכון משמעותי. גם כאן יש כר נרחב של אפשרויות: סגירת מעבר הקר (עם או בלי מערכות קירור מים), סגירת המעבר החם ( רק בשילוב מערכות קירור מים), שיטה היברידית ועוד.
8.ניהול בזמן אמת באמצעות כלי תוכנה – קצת עצוב שהתשתיות הפיזיות של חוות השרתים בישראל מנוהלות בדרך כלל בגיליונות אקסל. קיימים כלי תוכנה ( SPM, DC Track, Power IQ ) קלים לשימוש המאפשרים ניצול מיטבי של ההשקעה בתשתית, הצגת לוח מחוונים ( Dashboard ) בזמן אמיתי והעיקר: יכולת תגובה מהירה לשינויים.
9. מדידה ובקרה – אי אפשר לנהל ולייעל את מה שאינו נמדד. חיישנים וכלי תוכנה מתקדמים מודדים את יעילות צריכת האנרגיה ( PUE ) ומידת השימוש בתשתיות ומאפשרים קבלת החלטות ניהוליות מושכלות. לדוגמא: חישוב קל של החזר השקעה של IT Refresh .
10. הסמכה מבצעית של חדרי שרתים – טבען של תקלות בתכנון וביצוע של חדרי שרתים חדשים, הוא שהן מתגלות זמן רב לאחר העלייה לאוויר עם הצמיחה הטבעית בעומס. תקלות אלו גורמות לזמן דמימה ( downtime ) של חדרי שרתים קריטיים לארגון. ההסמכה המבצעית של אלכסנדר שניידר בוחנת תחת עומס אמיתי את כל מערכות חדר השרתים: מיזוג אוויר, חשמל , יתירות ויעילות אנרגטית. הבדיקה היא באמצעות אמולטורים של חומרה , חיישנים מתקדמים ותוכנת בקרה ייעודית. ההסמכה המבצעית מורידה דרמטית את ההסתברות לתקלות תשתית ומגלה את כל הבעיות לפני הכנסת מערכות האמת של ה IT לחדר השרתים החדש כאשר כל המערכות עדיין באחריות וכל המתכננים והקבלנים עדיין זמינים.
ארגון אשר יישם את עשרת הנוהגים המתקדמים הללו ויפנים את העקרונות שעיצבו אותם, ישפר משמעותית את יכולת חוות השרתים להגיב לצרכי הארגון, ויוכל לחסוך לארגון כספים רבים שישמשו אותו להקצאת משאבים להתעצמות.
אנו מקיימים ימי עיון לעיתים קרובות בנושא תכנון וניהול חדרי שרתים. למעוניינים כתבו לטלי שרון tali@schneider.co.il
מרכז ההדרכה למנהלי חוות שרתים
באופן שגרתי, אנו עורכים ימי עיון בנושא ניהול חדרי מחשב וחוות שרתים לללקוחות אלכסנדר שניידר. זוהי הזדמנות מצוינת לצוותי IT, מיזוג אוויר וחשמל של הארגון להסב מסביב לשולחן במקום נייטראלי, לשמוע הדרכות בנושא ניהול חדרי מחשב ולדון בצרכים ובתוכניות של חוות השרתים שלהם.
בדרך כלל מדובר ביום מלא ואינטנסיבי אם כי לעיתים עורכים יום מקוצר כדי להתמקד בנושא בוער או בשניים.
מאחר ושקפים זה עניין שיכול להתיש, בנינו חדר שרתים עובד לצורך הדגמה. מדובר בחוות שרתים עובדת ופעילה שנבנתה לצרכי המחשה והדרכה כך שניתן לבקר בחדר, לגעת וללמוד באופן חופשי.
הדגמה של יתרונות סגירת המעבר הקר
נושאי ההדרכה קשורים כולם לתשתית הפיזית של ה datacenter: ניהול, בקרה, חשמל, מיזוג אוויר, תקשורת נחושת ואופטיקה, ניהול כבילה, יעילות אנרגטית, תכנון העמדה ועוד. הדגש הוא על נוהגים מיטביים – BEST PRACTICES בניהול חוות שרתים.
high density cooling up to 30KW / rack
בחדר השרתים להמחשה תראו הדגמות לנושאים רבים: ארונות שרתים מסוגים שונים, PDU מסוגים שונים, פסי צבירה מודולאריים, קירור שורה ( In Row ), קירור ארון (In Rack ), ארונות עם קירור מים, סגירת מעבר קר, ארונות ארובה, ארונות תקשורת ייעודיים לסיסקו, פתרונות ניהול כבילה, הארקה של חוות שרתים, נחושת ואופטיקה בצפיפות גבוהה, תיעול כבילה, תוכנות ואמצעי בקרה, תוכנות ניהול ועוד נושאים רבים אחרים.
חוות השרתים להדגמה של אלכסנדר שניידר
ההדרכות מתקיימות בתיאום מראש ללקוחות מתחומי ה IT, מיזוג אוויר, חשמל ושו"ב.
אורחים מחו"ל שהגיעו להדרכה בנושאי חדרי שרתים
לשאלות ותיאום tali@schneider.co.il . אתם מוזמנים.
גל של חדשנות שוטף את תחום חוות השרתים
ארונות קירור מים,פסי צבירה,PDU מנוהלים- נוהגים מיטביים בחוות שרתים
עתה כשנותרנו מיעוט קטן (אך איכותי!) אפשר להתעמק בדברים.
לפני מס' חודשים נועדתי עם חברה המתכננת חדר מחשב חדש שיעלה לאוויר, לפי תוכניותיהם, ב 2015. אמנם אני מצדיע לחברות ישראליות החושבות לטווח ארוך, אך הדבר גרם לי להרהר בלוחות הזמנים הנהוגים לעיתים בתעשייה שלנו. פרויקט הקמה של אולם מחשוב הוא פרויקט בפני עצמו. יצירת אומנות יחידנית אשר הכול בה מפותח מאפס ונתפר כולו לפי צרכי הלקוח. נכון? לא בהכרח.
מאחר וחברה מקימה לעצמה חדר מחשב אחת לכל 5 עד 20 שנים, הרי כשארגון מבקש להקים לעצמו חדר מחשב חדש, זו התנסות חדשה לרוב מובילי הפרויקט. אל צוות המפעל חוברים יועצים וקבלנים חיצוניים שלהם יותר ניסיון (אנו מקווים) ונוצר צוות פרויקט אשר אין לו ניסיון משותף. הצוות מתחיל את התכנון מאפס (דבר משתלם ביותר למתכננים) ונשען על ידע לא מושלם ולא עדכני. זו הסיבה העיקרית לכך ששלב התכנון אורך בדרך כלל חודשים רבים (במקרים אחדים גם מספר שנים), כמו גם שלב הבניה, ושהפרויקט ברובו מבוסס על ניסוי וטעייה ולא על נוהגים מיטביים.
גם בהתחשב בעבודה הקשה של צוות הפרויקט, עלות התמשכות הפרויקט והטעויות בהחלטות התכנוניות עולים לארגון כסף רב. התוצאה הסופית היא חדר מחשב ייחודי באמת אשר אין זהה לו והדבר נזכר כאן לא כמחמאה (אולי להיפך) אלא כציון עובדה.
התופעות הללו מתרחשות לא רק בחדרי מחשב הנבנים במבנה חדש על קרקע בתולית (Greenfield data center ) אלא גם בפרויקטים של שדרוג חדרי מחשב ( datacenter upgrade ). גם כאן מדובר בהוספת יכולות של אספקת חשמל ומיזוג אוויר וגם כאן צוותים שהוקמו אד-הוק עובדים כדי לשדרג את חדר מחשב במינימום עלויות והשבתה.
כדי לפתור בעיות מסוג אלו, אחת המגמות המתחזקות בתחום חדרי השרתים היא חדרי מחשב מודולאריים בבנייה טרומית המבוססים על מודולים בתצורות אשר נוסו ונבדקו במפעל ( pre-configured ), וקל להתקינם באתר ולדעת מראש את רמת הביצועים שנקבל ( Pre-engineered ). הרחבה והגדלה ניתנים לביצוע בקלות יחסית.
גם כאן הנוהגים המיטביים מאפשרים היום הוספת מודולים פנימיים ( Pods ) כגון ה SMART AISLE של אמרסון המכילים מס' משתנה של ארונות שרתים, מערכות מיזוג ממוקד ( כגון מערכות קירור ארון או קירור שורה) ומערכות חלוקת חשמל (כגון פסי צבירה של STARLINE ) המורידות באופן דרמטי את זמני התכנון והיישום הנדרשים כמו גם את העלויות.
דוגמא נאה לצורך המחשה היא חדר מחשב הנבנה על פי השמועה על ידי מייקרוסופט באיידהו שבארה"ב. גודל החדר כ MW 5, ענק במושגים ישראליים אך לא במושגי מייקרוסופט, והוא יושלם תוך 28 שבועות מיום חתימת החוזה. החדר בנוי ממודולים של KW 600 כ"א כל מודול בנוי ממספר מבנים טרומיים המובלים לאתר במשאית ומחוברים תוך ימים לתשתית.
לקחים מתקלות בחדרי מחשב 2 #
מוקד השרות שלנו קיבל את הקריאה. התראה על נזילת מים התקבלה מחדר המחשב של אחד מלקוחותינו. חוות השרתים הושבתה. צוות השירות שלנו הוזנק למקום.
מדובר בחדר מחשב מתקדם שבו מיזוג האווויר מבוסס ברובו על יחידות קירור שורה ( ROW COOLING ) מסוג cooloop של קנור אמרסון. זהו חדר בינוני בגודלו (עומס IT של מאות קילוואט) אך מתקדם ומקצועי מאוד. האם הנזילה מקורה בתשתית מיזוג האוויר שאנו התקנו?
בעוד הצוות בדרכו לאתר, הגיעה צפירת ההרגעה. מסתבר שהמנקה החרוצה של אותו אתר, החליטה לשטוף את רצפת חדר המחשב. מי השטיפה הגיעו לאחד מחיישני המים מתחת לרצפה הצפה והפעילו את מערכת ההתראה וזו השביתה את יחידות מיזוג האוויר.
מסקנות ולקחים:
1. כניסת המנקה לחדר הייתה צריכה להיות מפוקחת. אין להכניס דלי מים לדטה סנטר. הדלי צריך להישאר מחוץ לאולם המחשב או בפנים בסמוך לדלת הכניסה. את הרצפה הצפה יש לנקות עם סמרטוט לח בלבד. על עובדי הניקיון לעבור הדרכה מתאימה ולעבוד תחת פיקוח.
2. המערכת עבדה כפי שתוכננה. אך האם הנוהל היה נכון? על מנהל חדר המחשב להחליט האם באמת יש צורך בהשבתת מערכות המיזוג כתוצאה מהתראה של חיישן אחד. לדעתנו, לא.
יש לכם סיפור טוב על לקוחים מתקלות בחדרי מחשב ? שתפו את הקהילה כתבו לי
יגאל שניידר
חוות מחשוב עננים של Triple C
טריפל סי חנכה חדר מחשב חדש המתוכנן, על פי המנכ"ל רמי נחום, לרמת שרידות גבוהה של Tier 4 . הסרט מספק תאור מעניין של יכולות החווה שהיא ללא ספק מהמתקדמות בארץ.
מזל טוב ל טריפל סי.
The Data Center Blog - חדרי מחשב, הקמת אולמות מחשב, חדרי שרתים, חוות שרתים, KVM, ניהול כבילה, UPS, green IT 