Posts tagged ‘InRow’
7 דרכים למיזוג אוויר יעיל אנרגטית בחדרי שרתים.
מאז אוגוסט 2011 עלו מחירי החשמל בישראל ביותר מ30% (נכון לפברואר 2012). למי שמנהל חדרי שרתים, עובדה זו כואבת במיוחד משום שעלויות צריכת החשמל של חדרי המחשב הגיעו ל 20-25% מהוצאות התפעול השוטפות. בשל הדרך בה תוכננו חדרי השרתים או בשל הדרך בה הם מנוהלים, חלק משמעותי מצריכת האנרגיה מקורה בבזבוז בעיקר בשל חוסר יעילות בדרכי מיזוג האוויר.
בארגונים נאורים בהם חשבון החשמל של חדרי השרתים נבחן בדקדקנות, העלייה בצריכת החשמל הביאה לבחינה מחודשת של דרכי התכנון והניהול של מרכזי המחשוב. בארגונים פחות נאורים, חשבון החשמל משולם על ידי גוף תפעול מרכזי שאינו מסוגל לנתח את הנתונים והתוצאה היא בזבוז שעלותו מאות אלפי ואף מיליוני שקלים בשנה, תלוי בגודל המתקן. לדוגמא: במתקן של ארגון בינוני שבו כ 400 שרתים, צריכת החשמל של השרתים תהיה כ 200 קילוואט לערך. צריכת החשמל הכוללת של המתקן תכלול גם את צריכת החשמל למיזוג אוויר ולמערכות תשתית נוספות. בחדר מחשב בגודל זה המופעל היטב ( PUE=1.5 ) חשבון החשמל הכולל יהיה כ מיליון וחצי ₪ בשנה. בחדר מחשב בגודל דומה המנוהל ללא מתן חשיבות לצריכת החשמל ( PUE=3 ) , ויש רבים כאלו בישראל, חשבון החשמל יעלה כ 3 מיליון ₪, בזבוז של מיליון וחצי ש"ח בשנה או 15 מיליון ₪ בעשר שנים. להסבר על PUE
למי שלא בחן את הנושא מקרוב עד כה, אציין רק שעלות החשמל הנדרשת להפעיל ולקרר שרת מתקדם לאורך 3 שנים גבוהה יותר מעלות השרת עצמו.
בארונות INRACK אלו טמפרטורת מיים קרים של 18 מעלות
בפוסט הקודם תיארתי 10 נוהגים מתקדמים של חדרי שרתים ( datacenter Best Practices ) . הפעם אתמקד בנושא מיזוג האוויר בחדרי שרתים.
רבים ממנהלי חדר המחשב יודעים שעליהם ליישם מעברים קרים וחמים ולזווד פנלים עיוורים בארונות שרתים כדי למנוע חזרת אוויר חם אל קדמת הארון. על כן, לא אעסוק בנושאים טריוויאלים מעין אלו. אלא אתמקד בנוהגים מתקדמים אשר לא רבים בישראל נתנו עליהם את הדעת:
ניתן לחסוך בצריכת החשמל למיזוג בן 30% ל 50% על ידי הפרדה מוחלטת של אוויר קר וחם ועל ידי העלאת טמפרטורת העבודה. הפרדה מוחלטת של אוויר קר וחם מתבצעת על ידי הכלה ( Containment ) והעלאת טמפרטורת העבודה מתבצעת על ידי העלאת טמפרטורת המים הקרים למיזוג ( CW ) מ 7 מעלות ל 16 ואף 18 מעלות צלזיוס. נסביר…
1. הפרדה מוחלטת של אוויר קר וחם על ידי הכלה ( Containment ) של האוויר הקר ( Cold Containment ) או הכלה של האוויר החם ( Hot Containment ) . בחדרי שרתים הממוזגים בשיטת קירור החדר ( בדרך כלל על ידי מערכות ליברט ) הכלת האוויר הקר מתבצעת על ידי סגירת המעבר הקר או על ידי הכלת החום באמצעות ארונות ארובה. אגב, בשיטה הראשונה (סגירת מעבר קר) ניתן להגיע ל 15 קילוואט לארון שרתים ועל ידי ארונות ארובה ניתן להגיע ל KW 30 לארון שרתים.
2. שימוש במערכות קירור ממוקד הקרוי בדרך כלל "ארונות קרור מים" . קירור ממוקד זה יכול להיות מפוזר בשורות ( in row cooling ) או בתוך ארון השרתים באופן הקרוי InRack Cooling.
3. בשיטת קירור השורה ניתן לסגור את המעבר הקר או את המעבר החם. שתי השיטות טובות אם כי רבים ממש שונאים לעבוד במעבר חם סגור בשל אי הנוחות שבכך. קיימת שיטה היברידית אשר נקראת שיטת החדר הקר ( cool room concept ) אשר לה אייחד מאמר נפרד בקרוב והיא מיישמת את כל היתרונות של סגירת המעבר החם ללא החסרונות.
4. העלאת טמפרטורת העבודה. עד לאחרונה נהגו המתכננים לעבוד עם צ'ילרים שקררו את המים הקרים ל 7 מעלות צלזיוס. העלאת טמפרטורת המים הקרים ל 16 ואף 18 מעלות מספקת חיסכון בצריכת החשמל של כ 3% לכל מעלה. בחישוב זריז מדובר על חיסכון של כ 30% רק משינוי טמפרטורת העבודה.
אגב, העלאת טמפרטורת העבודה תאפשר גם לקבל כ 25% יותר קיבולת קירור מהצ'ילר אם כי נתון זה משתנה ממודל למודל.
חשוב מאוד: כדי ליישם שיטה מתקדמת זו הלכה למעשה יש לבחור מערכות In Rack או InRow המסוגלות לספק את קיבולת הקירור המקסימאליות בטמפרטורות CW אלו. ישנן מערכות, רחמנא ליצלן, שבטמפרטורות אלו של 16 מעלות מיים קרים קיבולת הקירור שלהן יורדת ב 50% ואך יותר. מיצרנים כאלו מומלץ להישמר.
5. מדידה ובקרה – אי אפשר לנהל ולייעל את מה שאינו נמדד. חיישנים וכלי תוכנה מתקדמים מודדים את יעילות צריכת האנרגיה ( PUE ) ומידת השימוש בתשתיות ומאפשרים קבלת החלטות ניהוליות מושכלות. לדוגמא: חישוב קל של החזר השקעה של IT Refresh .
6. מודולאריות בתכנון – השקעה בציוד תשתית לעומס מקסימאלי כבר בתחילת חיי חדר המחשב היא מתכון לבזבוז ולשיתוק היכולת לאמץ טכנולוגיות חדשות עם הזמן. תכנון מודולארי מאפשר מדרוג ההשקעה לאורך שנים ( pay as you grow ) וחיסכון משמעותי ב TCO. מודולאריות מאפשרת גם שימוש אופטימאלי בטכנולוגיות מתקדמות ובמוצרים חדישים.
7. ניהול בזמן אמת באמצעות כלי תוכנה – קצת עצוב שהתשתיות הפיזיות של חוות השרתים בישראל מנוהלות בדרך כלל בגיליונות אקסל. קיימים כלי תוכנה ( SPM, DC Track, Power IQ ) קלים לשימוש המאפשרים ניצול מיטבי של ההשקעה בתשתית, הצגת לוח מחוונים ( Dashboard ) בזמן אמיתי והעיקר: יכולת תגובה מהירה לשינויים.
ארגון אשר יישם את שבעת הנוהגים המתקדמים הללו ויפנים את העקרונות שעיצבו אותם, ישפר משמעותית את יעילות מיזוג האוויר של חדרי השרתים בכ 30%-50% , ויוכל לחסוך לארגון כספים רבים שישמשו אותו להקצאת משאבים להתעצמות.
מרכז ההדרכה למנהלי חוות שרתים
באופן שגרתי, אנו עורכים ימי עיון בנושא ניהול חדרי מחשב וחוות שרתים לללקוחות אלכסנדר שניידר. זוהי הזדמנות מצוינת לצוותי IT, מיזוג אוויר וחשמל של הארגון להסב מסביב לשולחן במקום נייטראלי, לשמוע הדרכות בנושא ניהול חדרי מחשב ולדון בצרכים ובתוכניות של חוות השרתים שלהם.
בדרך כלל מדובר ביום מלא ואינטנסיבי אם כי לעיתים עורכים יום מקוצר כדי להתמקד בנושא בוער או בשניים.
מאחר ושקפים זה עניין שיכול להתיש, בנינו חדר שרתים עובד לצורך הדגמה. מדובר בחוות שרתים עובדת ופעילה שנבנתה לצרכי המחשה והדרכה כך שניתן לבקר בחדר, לגעת וללמוד באופן חופשי.
הדגמה של יתרונות סגירת המעבר הקר
נושאי ההדרכה קשורים כולם לתשתית הפיזית של ה datacenter: ניהול, בקרה, חשמל, מיזוג אוויר, תקשורת נחושת ואופטיקה, ניהול כבילה, יעילות אנרגטית, תכנון העמדה ועוד. הדגש הוא על נוהגים מיטביים – BEST PRACTICES בניהול חוות שרתים.
high density cooling up to 30KW / rack
בחדר השרתים להמחשה תראו הדגמות לנושאים רבים: ארונות שרתים מסוגים שונים, PDU מסוגים שונים, פסי צבירה מודולאריים, קירור שורה ( In Row ), קירור ארון (In Rack ), ארונות עם קירור מים, סגירת מעבר קר, ארונות ארובה, ארונות תקשורת ייעודיים לסיסקו, פתרונות ניהול כבילה, הארקה של חוות שרתים, נחושת ואופטיקה בצפיפות גבוהה, תיעול כבילה, תוכנות ואמצעי בקרה, תוכנות ניהול ועוד נושאים רבים אחרים.
חוות השרתים להדגמה של אלכסנדר שניידר
ההדרכות מתקיימות בתיאום מראש ללקוחות מתחומי ה IT, מיזוג אוויר, חשמל ושו"ב.
אורחים מחו"ל שהגיעו להדרכה בנושאי חדרי שרתים
לשאלות ותיאום tali@schneider.co.il . אתם מוזמנים.
לקחים מתקלות בחדרי מחשב 2 #
מוקד השרות שלנו קיבל את הקריאה. התראה על נזילת מים התקבלה מחדר המחשב של אחד מלקוחותינו. חוות השרתים הושבתה. צוות השירות שלנו הוזנק למקום.
מדובר בחדר מחשב מתקדם שבו מיזוג האווויר מבוסס ברובו על יחידות קירור שורה ( ROW COOLING ) מסוג cooloop של קנור אמרסון. זהו חדר בינוני בגודלו (עומס IT של מאות קילוואט) אך מתקדם ומקצועי מאוד. האם הנזילה מקורה בתשתית מיזוג האוויר שאנו התקנו?
בעוד הצוות בדרכו לאתר, הגיעה צפירת ההרגעה. מסתבר שהמנקה החרוצה של אותו אתר, החליטה לשטוף את רצפת חדר המחשב. מי השטיפה הגיעו לאחד מחיישני המים מתחת לרצפה הצפה והפעילו את מערכת ההתראה וזו השביתה את יחידות מיזוג האוויר.
מסקנות ולקחים:
1. כניסת המנקה לחדר הייתה צריכה להיות מפוקחת. אין להכניס דלי מים לדטה סנטר. הדלי צריך להישאר מחוץ לאולם המחשב או בפנים בסמוך לדלת הכניסה. את הרצפה הצפה יש לנקות עם סמרטוט לח בלבד. על עובדי הניקיון לעבור הדרכה מתאימה ולעבוד תחת פיקוח.
2. המערכת עבדה כפי שתוכננה. אך האם הנוהל היה נכון? על מנהל חדר המחשב להחליט האם באמת יש צורך בהשבתת מערכות המיזוג כתוצאה מהתראה של חיישן אחד. לדעתנו, לא.
יש לכם סיפור טוב על לקוחים מתקלות בחדרי מחשב ? שתפו את הקהילה כתבו לי
יגאל שניידר
חוות מחשוב עננים של Triple C
טריפל סי חנכה חדר מחשב חדש המתוכנן, על פי המנכ"ל רמי נחום, לרמת שרידות גבוהה של Tier 4 . הסרט מספק תאור מעניין של יכולות החווה שהיא ללא ספק מהמתקדמות בארץ.
מזל טוב ל טריפל סי.
סגירת המעבר הקר בחדרי מחשב ( Cold Aisle Containment )
סגירת המעבר הקר צוברת תאוצה בחדרי מחשב רחבי העולם.
סגירת המעבר הקר מונעת בזבוז של אוויר קר שיוצר ע"י מערכות הקירור. ללא הסגירה, רוב האוויר הקר כלל אינו מגיע לשרתים.
בנוסף, סגירת המעבר הקר מונעת חזרת אוויר חם אל קדמת השרתים, בעיה הקיימת בעיקר כשעומס החום בארון שרתים עולה על 4 קילו-וואט.
מהי סגירת מעבר קר דינמית? בסגירת מעבר קר דינמית חיישנים המוצבים במעבר הקר מתקשרים עם יחידות המיזוג הפנימיות ושולטות על מהירות המאווררים ביחידות אלו. סגירת מעבר קר דינמית נחשבת היום ל BEST PRACTICES .
יתרונות סגירת המעבר הקר הם כדלקמן
- שיפור ביעילות מערכות המיזוג הקיימות.
- 50% שיפור בDensity לארון שרתים, עם יכולת להגיע ל 10 קילוואט עומס לארון שרתים (תלוי ביכולות החדר)
- טמפרטורה אחידה לכל גובה הארון ומניעת תקלות חומרה.
- התקנה קלה ומהירה
- עלות נמוכה עם החזר השקעה מהיר של מס' חודשים עד שנה.
- חיסכון משמעותי בחשבון החשמל (ראו מטה)
- אפשרות לקבל יותר CAPACITY מהצ'ילרים הקיימים (הסבר בפוסט הבא)
להלן נתונים מאמרסון ( Emerson ). סגירת מעבר קר מאפשרת 15% חיסכון בצריכת החשמל למיזוג האוויר ו קרוב לפי 2 מזה (28%) בסגירת מעבר קר דינמית.
| Traditional
Approach |
With Aisle
Containment |
With Emerson SmartAisle | |
| Chiller | 71.3% | 64.9% | 60.0% |
| Pumps | 10.0% | 5.4% | 5.2% |
| Air Handler Fan | 18.7% | 14.3% | 7.2% |
| Total | 100% | 84.6% | 72.4% |
| Savings | 15% | 28% |
דוגמא: אם נניח חדר מחשב עם PUE של 2.5 במצב ההתחלתי, הרי השקעה זעומה בסגירת מעבר קר דינמית תביא חדר זה ל PUE של 2.1 בקירוב.
הבה ניקח כדוגמא חדר מחשב שבו KVA 300 עומס IT .
עם PUE של 2.5 , צריכת החשמל של החדר כולו היא 750 קילוואט שעה בקירוב.
חשבון החשמל השנתי יהיה (במחירים הנוכחיים של 40 אגורות לקווט"ש) 6.5 מיליון שקל בקירוב.
סגירת מעבר קר דינמית תביא את החדר ל PUE של 2.1 ,
החיסכון יהיה 1,050,000 ₪ בשנה.
עלות התקנת מעבר קר דינמית לחדר זה בהערכה גסה , מוערכת 300,000 ₪. כלומר החזר השקעה של 3 עד 4 חודשים.
כמו כן ניתן להכין את תשתית החדר להתקנת יחידות DECS ( מערכות קירור העומדות בין הארונות) בעתיד. מצב זה יאפשר התקנת ארונות high density בעתיד, עד ל KW 30 לארון ואף יותר, ללא עבודות תשתית נוספות.
על ידי סגירת המעבר הקר ניתן, אם כך, לשפר את מצב החדר ולהשיג את היתרונות הכתובים מעלה תוך שימור ההשקעות שנעשו בתשתית, ותוך כדי כך להכינו לעתיד ול high density, כך שהשקעות קפיטאליות ייעשו במדורג ובהתאם לצורך.
ארונות שרתים מבוססי קירור מים בבנק ישראל
הדטה סנטר החדש של בנק ישראל נחנך בתחילת חודש אוקטובר בהשתתפות נגיד בנק ישראל סטנלי פישר.
מיזוג האוויר בחוות השרתים של בנק ישראל מבוסס על מערכות קירור שורה CoolLoop של Knurr-Emerson. אלו יחידות המבוססות על קירור מים( KW 30 כ"א ) וממוקמות בין ארונות השרתים. שם המותג הוא coolloop אך השם הגנרי של יחידות אלו הוא DECS אם כי יש כאלו שקוראים להם InRow או Inline.
לטעמי בחירת בנק ישראל במערכות Coolloop של חברת Knurr-Emerson מדגישה את המודעות הגוברת של ארגונים בישראל לחשיבות תכנון וניהול יעיל של חדרי מחשב, תוך מתן דגש על טכנולוגיות "ירוקות" שמביאות לחיסכון משמעותי בהוצאות התפעול. אחד המאפיינים של פרויקטים מסוג זה הוא השימוש במערכות מיזוג אוויר מתקדמות המבוססות על ארונות קירור מים .
טכנולוגיה זו של קירור ממוקד שהצגנו לשוק הישראלי ב 2004, הופכת יותר ויותר לפתרון הנבחר. זאת בשל היכולת לקלוט ולקרר בקלות ארונות מחשוב מתקדם בעל הספקים גבוהים תוך חיסכון משמעותי בחשמל ובשטח רצפה ותוך שיפור שרידות החדר .
בנוסף למערכות מיזוג האוויר הפנימיות, הותקנו בפרויקט זה ארונות שרתים עם מחשבה לעתיד ( למשקל נשיאה של 1500 ק"ג וחירור אופטימאלי של דלתות ל 83% ראו פוסט בנושא best practices לבחירת ארון שרתים ) , ארונות תקשורת של Panduit המיועדים לניהול כבילה מתקדם ומומלצים על ידי סיסקו, מערכות KVM של Raritan וכן פסי שקעים חכמים ( PDU ) עם תוכנות ניהול מתקדמות המאפשרות בקרה על צריכת החשמל בזמן אמיתי .
בשל האיסור לצלם באתר, התמונה המופיעה מעלה היא להמחשה בלבד ולקוחה מאתר אחר בישראל בסדר גודל דומה.
The Data Center Blog - חדרי מחשב, הקמת אולמות מחשב, חדרי שרתים, חוות שרתים, KVM, ניהול כבילה, UPS, green IT 