Posts tagged ‘חיסכון בחשמל בחדרי מחשב’
מה היא באמת הטמפרטורה הרצויה בחדרי מחשב? פוסט עדכני ל 2015.
ב 2007 כתבתי פוסט על הטמפרטורה הנדרשת בחוות שרתים. הנתונים בפוסט מ 2007 אינם עדכניים אך נמצאים שם כדי לרדוף אותי משום שזה אחד הפוסטים הנקראים ביותר עד היום. הנה הנתונים העדכניים…..
קודם כל נדרשת הבהרה. הטמפרטורה הנדרשת בחוות השרתים שכולם מדברים עליה היא טמפרטורת האוויר הקר הנכנס לשרתים. זו הטמפרטורה החשובה ואותה חשוב מאוד למדוד ולבקר. התקן אותו נזכיר מייד מדבר על האוויר הקר הנכנס לשרתים. מדידות בנקודות אחרות כגון טמפרטורת האוויר החם הנפלטת מהשרתים והטמפרטורה של האוויר החם החוזר ליחידת הקירור ( Liebert or in row ) מעניינות אותנו לצרכי ניתוח בלבד.
אוויר קר נכנס לשרת מלפנים ונפלט אחורנית
לפי ארגון ASHRAE , הארגון האמריקאי למהנדסי מיזוג אוויר, הטווח המומלץ של טמפרטורת האוויר המסופק לשרתים נע בין 18 מעלות ל 27 מעלות צלזיוס. זהו טווח מומלץ רחב יותר מזה שהיה נהוג עד 2009 שנע בין 20 ל 25 מעלות.
הטווח המותר העדכני נע בין 15-32 מעלות. והטווח המומלץ הוא 18-27.
ASHRAE נחשב לאורים ותומים של תעשיית הדטה-סנטר בעולם והמלצות הארגון מקובלות על יצרני ה IT הגדולים בעולם כולל סיסקו, HP, דל וכד'.
הטווח המומלץ ( 18-27) הורחב כדי לאפשר לחוות שרתים לחסוך כסף רב בחשבון החשמל למיזוג אוויר. על כל עלייה של מעלה אחת בטמפרטורת העבודה, ניתן לחסוך בסביבת 3% בחשבון החשמל.
באקלים הישראלי יש לנו עניין להתקרב לגבול הטווח המומלץ הגבוה, כלומר ל 27 מעלות. למי שחושש, אני מציע לשאוף ל 25 או 26 מעלות. כמובן שניתן לעשות זאת רק כאשר יש שליטה טובה על זרימת האוויר בחוות השרתים וכאשר יש אחידות סבירה בטמפרטורה במעבר הקר.
החלק הנמוך של הטווח המומלץ ( 18 מעלות) של האוויר הקר המגיע לשרתים הוא למען מתקנים הפועלים באקלים קר ומעונינים להביא אוויר קר מבחוץ לקרר את החווה. שיטה זו נקראת direct free cooling ואינה רלבנטית לישראל.
היכן מודדים? רצוי בקדמת כל ארון בשלושה גבהים וחיישן אחד בחלק האחורי של הארון.
אפשר בקדמת כל ארון שני בשלושה גבהים או בקדמת כל ארון בשני גבהים.
שיטות מדידה
הכי סקסי: חיישנים אלחוטיים של Synapsense. מאפשרים לקבל בזמן אמיתי מפת חום של החדר בשלושה או 4 גבהים (כולל מתחת לרצפה הצפה) וגם תמונת לחץ אוויר מתחת לרצפה הצפה.
ניתן לקבל תמונה מליאה בנתוני טבלה, או מפה טרמית על צג LCD או על טאבלט.
מקצועי ומתקדם: שימוש בחיישני טמפרטורה שמשתחברים ל PDU כ gateway. לדוגמא חיישני טמפרטורה / לחות שהם אופציה בפסי השקעים המבוקרים/חכמים של Raritan.
לכל פס שקעים יש שני חיישני טמפרטורה/לחות. סה"כ בארון שלושה חיישנים מלפנים ו אחד מאחור. התמונה מחוות השרתים של eBay
לאתרים קטנים ו/או מרוחקים:
מערכת חיישני בקרת סביבה עם יכולת מודם סלולרי של Avtech
מערכת בקרת סביבה
UNIVERSAL CONTAINMENT; HOT OR COLD AISLE CONTAINMENT
סגירת המעבר הקר (או סגירת המעבר החם) היא הכרחית היום בחוות שרתים. ללא הפרדה ראויה מובטח בזבוז עצום במיזוג האוויר, דבר המוביל לעלות גבוהה ברכש (מיותר) של מערכות מיזוג אוויר ובעלות גבוהה (מאוד) של חשמל. זאת בנוסף לבעיות חום המשפיעות לרעה על תפקוד חוות השרתים, גמישותה ועל הרציפות העסקית.
בסגירת המעבר אנו מגיעים לאופטימיזציה של מיזוג האוויר בזכות הפרדה של אוויר קר וחם, מניעה של אוויר חם החוזר לקדמת השרתים, תיעול כל האוויר הקר אל השרתים ומניעת "בריחתו" ( דבר הקרוי BYPASS AIR ) ומבטיחים את יעילות מחליף החום ביחידת המיזוג. לא ניכנס לזה עכשיו.
בעולם נהוג היום יותר ויותר לסגור את המעבר הקר. לא ניכנס לדיון מדוע בפוסט זה. עם זאת נהוג להבדיל בין שני סוגי מתקנים:
BROWNFIELD :מתקן קיים, חוות שרתים עובדת שאותה אנו רוצים לשדרג ולטייב, אם אפשר, ללא השבתה. במתקן כזה סגירת המעבר הקר היא האופציה היחידה כמעט. למעט הקמת POD חדש המבוסס על יחידות קירור מים.
GREENFIELD : מתקן חדש . כאן ניתן לבצע הפרדת אוויר קר וחם במגוון שיטות. דוגמאות: ארונות ארובה, סגירת מעבר קר עם או בלי יחדות קירור מים, סגירת מעבר חם ועוד.
מאחר וסגירת המעבר קשה יותר כאשר אין בידינו את כל ארונות ה IT שטרם נרכשו עדיין, ולחלופין יש לנו ארונות בגבהים שונים וברוחב שונה, פותחה על ידי חברת פנדויט ( PANDUIT ) שיטה אוניברסלית לסגירת מעברים. ראו:
PDU לארונות שרתים: מבוקר או מנוהל?
האם יש עדיין טעם להצטייד בפסי שקעים "בסיסיים" לארונות שרתים?
פס השקעים הידוע בכינוי RPDU, הפך לחלק משמעותי ומעניין בחוות השרתים. כיום נהוגים מס' סוגים של פסי שקעים:
1. פסי שקעים מנוטרים – כאלו שמודדים ומציגים באמצעות צג מקומי את צריכת החשמל
2. פסי שקעים חכמים – מודדים ומציגים את צריכת החשמל ושולחים התראות דרך הרשת
3. פסי שקעים מנוהלים- יש בהם את יכולות הפסים החכמים + מאפשרים כיבוי והדלקה מרחוק
במה לבחור אם כך?
אני מאמין שהתשתית הפיזית של חוות השרתים חייבת לתמוך בשלושת יעדי העל:
1. רציפות עסקית
2. זמינות ( קיבולת בכל זמן)
3. עלות כוללת
לטעמי, פסי שקעים חכמים הם המינימום ההכרחי:
1. רציפות עסקית – כמעט כל חוות שרתים רצינית משקיעה ביתירות כלשהי. עם פס שקעים בסיסי, אין ערובה לשום יתירות. וזאת משום שללא בקרה, קל מאוד להעמיס את פסי השקעים בעומס העובר את ה 50%. במקרה של קריסת אחת ה"רגליים" יועמס פס השקעים הנותר ביותר מ 100% ויקרוס. עמו יקרוס גם ארון השרתים (במקרה הטוב). כלומר ההשקעה העצומה ביתירות (שרתים בעלי שתי הזנות המובילות לשני פסי שקעים ומשם לשני לוחות חשמל, לשתי מערכות אל פסק וכו) מתבזבזת בשל חיסכון תמוה על פס השקעים.
לאנגלים יש ביטוי טוב לתאר זאת:
"penny wise and pound foolish"
פס שקעים חכם יתן לנו התראה כאשר נעבור רמת סף של עומס אותה נגדיר אנחנו. לדוגמא 45%. לדיון מעמיק ראו פוסט קודם.
2. זמינות: השקענו בחוות שרתים ואנו רוצים לנצל את ההשקעה במלואה. איך זה שמרבית הארונות ריקים למחצה ומנהל החווה מתלונן שאין לו יכולת לקלוט ציוד חדש? ובכן, בכדי לדעת אם ארון השרתים מולנו יכול לקלוט ציוד נוסף הצורך, נניח, עוד 2 קילו-וואט, עלינו לדעת כמה צורך הארון שלפנינו. פס שקעים חכם המחובר לתוכנת שליטה כגון Power IQ , יציג את צריכת הארון שלפנינו לאורך זמן. כך נדע ברמת ביטחון גבוהה אם נוכל להוסיף ציוד לארון וכמה.
3. עלות כוללת: ניטור צריכת החשמל ברמת הארון נותן לנו את האפשרות ליזום שיפורים בתחום היעילות האנרגטית ולחסוך כסף רב לארגון אותו ניתן לנצל להתעצמות. בנוסף, ניטור מאפשר ניתוח עלות-תועלת של רכישת שרתים חדשים.
טיפים נוספים לבחירה נבונה:
– הטמפרטורה בחלקו האחורי של הארון יכולה היום להגיע ל 50 מעלות. ולכן, חשוב לבחור פסי שקעים חכמים העומדים בטמפרטורות של 60 מעלות.
-תכנון המאפשר מינימום טעויות אנוש:
כיסוי למפסקים, קליפים למניעה של ניתוק לא מכוון של כבלים , לדים וסימון צבעים לפאזות השונות.
שוק חדרי השרתים צומח במהירות
מחקר של Datacenter Dynamics של שוק מרכזי המחשוב ( דאטה-סנטר) העולמי העלה את הנתונים המעניינים הבאים
1. ההשקעה בחדרי מחשב גדלה ב 2012 ב 22.1% מ 86 מיליארד דולר ל 105 מיליארד דולר
2. צפי הצמיחה בהשקעה בחדרי שרתים הוא 14.5% ב 2013
3. עיקר הצמיחה בהשקעה הוא במערכות אלקטרומכניות כגון מערכות מיזוג אוויר וחשמל
4. צמיחה חדה נרשמה גם בהשקעה במערכות ניהול
5. קניות מערכות IT כגון מחשוב, אחסון ותקשורת לתחום זה צמחו ב 16.7% ב 2012
6. תשתית ההספק (בגיגה-וואט) צמחה ב 63% ב 2012 ותצמח ב 17% ב 2013
7. 18% מארונות השרתים צורכים יותר מ 10 קילוואט לארון ( צפיפות גבוהה)
8. 33% מארונות השרתים צורכים בין 5 ל 10 קילוואט בארון (צפיפות בינונית)
9. שטח רצפה גדל ב 8.3% ב 2012 וצפוי לצמוח ב 19% נוספים ב 2013.
עד כאן הנתונים. הפרשנות שלי למספרים היא כדלקמן
בעוד חלקים נרחבים של המשק נמצאים במיתון, שוק חדרי השרתים נמצא בגידול מואץ. הסיבות העיקריות לכך הן
1. צמיחה תלולה במס' המשתמשים ביישומים ומכשירים ניידים יצרה מציאות שבה המשתמש מצפה לשירות רציף בכל תנאי ובכל זמן מה"ענן". הארגונים חייבים לבנות תשתית המאפשרת מענה ללא מגבלות CAPACITY
2. העליה התלולה בצריכת החשמל ובעלות צריכת החשמל יצרה כורח מיידי להתייעלות תפעולית. זו באה לידי ביטוי בשדרוג ובנייה של חדרי שרתים יעילים באנרגיה.
3. לקחים שהופקו משלל אסונות וניתוח סיכונים אילצו ארגונים רבים להשקיע ביתירות לצורך רציפות עסקית
בישראל מגמות אלו החלו אך עדיין לא במימדים שנראים בשאר המקומות בעולם. הארגונים הישראלים ברובם הגדול עדיין לא יישמו הלכה למעשה את תוכניות הרציפות העסקית שלהם ובוודאי לא הפנימו את התועלת הכלכלית האפשרית בהתייעלות אנרגטית.
יעילות אנרגטית של חדרי שרתים: PUE 2.0
יעילות אנרגטית של חדרי שרתים: PUE & PUE 2.0
המדד הקרוי PUE ( קיצור של Power Utilization Effectiveness ) נוצר על מנת לתת למנהלי מרכזי מחשוב מדד להשוואה של יעילות אנרגטית של מתקני חוות השרתים. אך עם הזמן הובן שמדד זה משאיר מקום לפרשנות ואף למניפולציה של הנתונים. בפוסט זה נסביר מהו PUE, מה חסרונותיו ויתרונותיו, ומהי הגרסה המתקדמת יותר PUE 2.0 .
PUE הוא יחס בין שני מספרים. במונה: צריכת החשמל בקילוואט של כל מתקן חדר השרתים ( IT, מיזוג אוויר ומערכות הספק ותאורה). במכנה: צריכת החשמל רק של ה IT.
(PUE = (Total datacenter power in) /( IT load Power
היחס 1.0 הוא יחס תיאורטי שלא ניתן להשגה אך יש לשאוף להתקרב אליו. כאשר היחס הוא 3.0, המשמעות היא שעל כל וואט שצורכות מערכות ה IT, המתקן צורך עוד 2 וואט של תקורה
(בעיקר, אך לא רק מיזוג אוויר) /
התקורה היא שם נרדף לבזבוז שעולה לארגון כסף רב. לדוגמא, מתקן שבו ה IT צורך מגה-וואט אחד, ישלם לחברת החשמל בישראל 8 מיליון ₪ בשנה ב PUE=1.5 או 16 מיליון ₪ בשנה ב PUE=3.0 . הבדל של 8 מיליון ₪ בשנה. בחדר שרתים קטן שם העומס של ה IT הוא רק 100 קילוואט ההבדל יהיה 800,000 ₪ בשנה. גם זה כסף. תכפילו ב20 שנה של חיי המתקן ותבינו את המשמעות הכלכלית לארגון.
בישראל מרבית חוות השרתים "מצטיינות" ב PUE שבין 2.5-3.5 . בארגונים נאורים שלהם חוות שרתים, כבל החלו לפעול על מנת להבין ולחסוך. במרבית הארגונים בישראל, ההנהלה עדיין לא מודעת לחיסכון העצום שכל כך קל להשיגו.
נחזור ל PUE. היחס כפי שהוא מוגדר ניתן למניפולציה צינית. לדוגמא, מדידה בימי החורף הקרים ובשעה בה מערכות ה IT בשיא העומס יתנו מספר טוב יותר. עוד דרך היא להשמיט מהחישוב את ה NOC ומערכות IT תומכות. או לכבות מערכות יתירות בעת המדידה.
בנוסף, היחס לא נועד להשוואה בין מתקנים ובין חברות. אין להשוות חדר שרתים באיסלנד לזה בתל אביב. כמו כן, אין להשוות מתקן tier3 שלו יתירות רבה (יתירות מביאה לצריכת חשמל גבוהה יותר) לבין מתקן Tier 1 . כמו כן, לחדר שרתים המועמס ב 20% מהקיבולת שלו יהיה PUE פחות טוב ממתקן זהה המועמס ב 80% מהקיבולת שלו.
ולכן, אין להשוות בין PUE של שני מתקנים. הPUE נועד לתת למנהלי חוות השרתים מדד ברור ליעילות האנרגטית של חוות השרתים ע"מ שיוכלו לשפר את אותו מתקן. כמו בגולף, הוא מתחרה בעצמו ומנסה לשפר את התוצאה שלו.
הגרסה המתקדמת ביותר של הגדרת ה PUE מגדירה 4 רמות. PUE0, PUE1, PUE2, PUE3
PUE0 – דומה מאוד ל PUE ה"ישן". הוא מודד את הצריכה בקילוואט במספר נקודות זמן שנלקחו לאורך תקופה של לפחות שנה. צריכת ה IT נמדדת ביציאת האל-פסק.
PUE1 – כאן אנו מדברים על יחס ממדידה שנלקחה לאורך שנה שלמה. סה"כ קילו-וואט-שעה שנצרכו על ידי המתקן כולו חלקי סה"כ קילו-וואט שעה שנצרכו על ידי ה IT כפי שנמדד ב UPS
PUE2 – דומה מאוד ל PUE1 מלבד העובדה שהמדידה של צריכת החשמל נעשית בארונות החשמל שבין ה IT לאל-פסק. אין הבדל משמעותי ואני לא רואה בזה חשיבות.
PUE3 – זה היחס המדויק ביותר והוא מורכב מ סה"כ קילוואט שעה שנצרך על ידי חוות השרתים כולה במשך שנה חלקי קילוואט שעה שנצרך על ידי מערכות ה IT כפי שנמדדו על יד פסי השקעים ( Rack PDU ) המנוטרים ( יש כאלו שקוראים להם מבוקרים או חכמים). זה הדבר האמיתי.
כיצד מודדים? קל מאוד . המדידה והבקרה של צריכת ה IT קלה מאוד עם פסי שקעים מבוקרים כגון אלו של Raritan והמדידה נעשית באמצעות תוכנה שנקראת PowerIQ. אפשרות נוספת היא PDU של חברת Server Technology ותוכנה הנקראת SPM. יש עוד פתרונות נוספים.
RARITAN POWERIQ
תכנון חדרי מחשב וחוות שרתים
זה הסטנדרט המומלץ של אלכסנדר שניידר
למנמ"ר המתכנן את מרכז המחשוב ( datacenter ) החדש של הארגון, יש הזדמנות לנצל נוהגים מתקדמים ( Best Practices ) בתכנון חדרי שרתים, ולשפר את התשתית עליה נשען מערך ה IT תוך חיסכון בעלות כוללת. להלן "עשר הדיברות"
1.TCO – הגדירו את רמת היתירות הנדרשת וחשבו את העלות כוללת ל 10 עד 15 שנים. השקעה ראשונית גדולה במס' אחוזים יכולה לחסוך עשרות אחוזים ב TCO.
2.בחירת השרתים גם על פי צריכת האנרגיה – עלות התפעול (בעיקר אנרגיה חשמלית) של שרת לאורך שלוש שנים גבוהה יותר מעלות השרת עצמו. בחרו בחוכמה שכן השוני בין השרתים הוא משמעותי.
3.וירטואליזציה – שימוש בוירטואליזציה מאפשר חיסכון משמעותי ברכש חומרה ובעלות התפעול של חוות השרתים. עם זאת, צריכת האנרגיה של שרת פיזי שעליו 5-20 שרתים וירטואליים גבוהה משמעותית מבעבר ויש צורך בחשיבה עדכנית בתשתית החשמל ומיזוג האוויר.
4.צפיפות מחשוב גבוהה – העלות הכוללת של חדר שרתים עם צפיפות מחשוב גבוהה ( high density ) נמוכה משמעותית ממרכזי מחשוב המפזרים את המחשוב על שטח רצפה נרחב. עם זאת, נדרשת חשיבה מקצועית וחדשנית להתמודדות עם כבילה צפופה, תשתית חשמל ומיזוג אוויר לצפיפות גבוהה. כדאי להתגבר על הנטייה להיצמד לשיטות עבר – החיסכון הוא משמעותי.
5.מודולאריות בתכנון – השקעה בציוד תשתית לעומס מקסימאלי כבר בתחילת חיי חדר המחשב היא מתכון לבזבוז ולשיתוק היכולת לאמץ טכנולוגיות חדשות עם הזמן. תכנון מודולארי מאפשר מדרוג ההשקעה לאורך שנים ( pay as you grow ) וחיסכון משמעותי ב TCO. מודולאריות מאפשרת גם שימוש אופטימאלי בטכנולוגיות מתקדמות ובמוצרים חדישים.
6. מיזוג אוויר חדשני וממוקד. המיזוג הממוקד מאפשר התמודדות עם כל עומס, חיסכון באנרגיה חשמלית וניצול מיטבי של ההשקעה בתשתית. עם זאת, היזהרו ממוכרנים שממוקדים רק במה שכדאי להם למכור . ישנן מגוון שיטות כגון קירור פנים-ארון, קירור חדר, קירור שורה ולכל אחת מאלו ואריציות שונות. מה נכון? כל פרויקט לגופו על פי הדרישות, הצרכים והאילוצים. טיפ חשוב: בחדרים בהם מיזוג האוויר מבוסס על צ'ילרים: דרשו ממתכנן מיזוג האוויר לתכנן לפי טמפ' מים קרים של לפחות 12 מעלות צלזיוס. רצוי אף יותר. זה יביא לחיסכון עצום בצריכת החשמל ותקבלו הרבה יותר מהמערכות שהתקנתם.
7. הפרדה מוחלטת של אוויר קר ואוויר חם – אחת הסיבות העיקריות לבזבוז העצום במיזוג אוויר ובחשמל בחוות שרתים הוא חוסר ההפרדה בין אוויר קר לחם. שימוש בפנלים עיוורים הוא חובה בסיסית עם החזר השקעה של יומיים בערך. הפרדה בין המעבר הקר למעבר החם יכולה גם היא להביא לחיסכון משמעותי. גם כאן יש כר נרחב של אפשרויות: סגירת מעבר הקר (עם או בלי מערכות קירור מים), סגירת המעבר החם ( רק בשילוב מערכות קירור מים), שיטה היברידית ועוד.
8.ניהול בזמן אמת באמצעות כלי תוכנה – קצת עצוב שהתשתיות הפיזיות של חוות השרתים בישראל מנוהלות בדרך כלל בגיליונות אקסל. קיימים כלי תוכנה ( SPM, DC Track, Power IQ ) קלים לשימוש המאפשרים ניצול מיטבי של ההשקעה בתשתית, הצגת לוח מחוונים ( Dashboard ) בזמן אמיתי והעיקר: יכולת תגובה מהירה לשינויים.
9. מדידה ובקרה – אי אפשר לנהל ולייעל את מה שאינו נמדד. חיישנים וכלי תוכנה מתקדמים מודדים את יעילות צריכת האנרגיה ( PUE ) ומידת השימוש בתשתיות ומאפשרים קבלת החלטות ניהוליות מושכלות. לדוגמא: חישוב קל של החזר השקעה של IT Refresh .
10. הסמכה מבצעית של חדרי שרתים – טבען של תקלות בתכנון וביצוע של חדרי שרתים חדשים, הוא שהן מתגלות זמן רב לאחר העלייה לאוויר עם הצמיחה הטבעית בעומס. תקלות אלו גורמות לזמן דמימה ( downtime ) של חדרי שרתים קריטיים לארגון. ההסמכה המבצעית של אלכסנדר שניידר בוחנת תחת עומס אמיתי את כל מערכות חדר השרתים: מיזוג אוויר, חשמל , יתירות ויעילות אנרגטית. הבדיקה היא באמצעות אמולטורים של חומרה , חיישנים מתקדמים ותוכנת בקרה ייעודית. ההסמכה המבצעית מורידה דרמטית את ההסתברות לתקלות תשתית ומגלה את כל הבעיות לפני הכנסת מערכות האמת של ה IT לחדר השרתים החדש כאשר כל המערכות עדיין באחריות וכל המתכננים והקבלנים עדיין זמינים.
ארגון אשר יישם את עשרת הנוהגים המתקדמים הללו ויפנים את העקרונות שעיצבו אותם, ישפר משמעותית את יכולת חוות השרתים להגיב לצרכי הארגון, ויוכל לחסוך לארגון כספים רבים שישמשו אותו להקצאת משאבים להתעצמות.
אנו מקיימים ימי עיון לעיתים קרובות בנושא תכנון וניהול חדרי שרתים. למעוניינים כתבו לטלי שרון tali@schneider.co.il
מרכז ההדרכה למנהלי חוות שרתים
באופן שגרתי, אנו עורכים ימי עיון בנושא ניהול חדרי מחשב וחוות שרתים לללקוחות אלכסנדר שניידר. זוהי הזדמנות מצוינת לצוותי IT, מיזוג אוויר וחשמל של הארגון להסב מסביב לשולחן במקום נייטראלי, לשמוע הדרכות בנושא ניהול חדרי מחשב ולדון בצרכים ובתוכניות של חוות השרתים שלהם.
בדרך כלל מדובר ביום מלא ואינטנסיבי אם כי לעיתים עורכים יום מקוצר כדי להתמקד בנושא בוער או בשניים.
מאחר ושקפים זה עניין שיכול להתיש, בנינו חדר שרתים עובד לצורך הדגמה. מדובר בחוות שרתים עובדת ופעילה שנבנתה לצרכי המחשה והדרכה כך שניתן לבקר בחדר, לגעת וללמוד באופן חופשי.
הדגמה של יתרונות סגירת המעבר הקר
נושאי ההדרכה קשורים כולם לתשתית הפיזית של ה datacenter: ניהול, בקרה, חשמל, מיזוג אוויר, תקשורת נחושת ואופטיקה, ניהול כבילה, יעילות אנרגטית, תכנון העמדה ועוד. הדגש הוא על נוהגים מיטביים – BEST PRACTICES בניהול חוות שרתים.
high density cooling up to 30KW / rack
בחדר השרתים להמחשה תראו הדגמות לנושאים רבים: ארונות שרתים מסוגים שונים, PDU מסוגים שונים, פסי צבירה מודולאריים, קירור שורה ( In Row ), קירור ארון (In Rack ), ארונות עם קירור מים, סגירת מעבר קר, ארונות ארובה, ארונות תקשורת ייעודיים לסיסקו, פתרונות ניהול כבילה, הארקה של חוות שרתים, נחושת ואופטיקה בצפיפות גבוהה, תיעול כבילה, תוכנות ואמצעי בקרה, תוכנות ניהול ועוד נושאים רבים אחרים.
חוות השרתים להדגמה של אלכסנדר שניידר
ההדרכות מתקיימות בתיאום מראש ללקוחות מתחומי ה IT, מיזוג אוויר, חשמל ושו"ב.
אורחים מחו"ל שהגיעו להדרכה בנושאי חדרי שרתים
לשאלות ותיאום tali@schneider.co.il . אתם מוזמנים.
חיסכון באנרגיה בזמן אמיתי ונהלים מיטביים. מה ניתן ללמוד מ eBay ?
זירת המסחר eBay היא אחת מזירות המסחר האינטרנטי הגדולות בעולם, ולכן היא דורשת שרידות מוחלטת ממרכז המחשוב שלה; כל זמן דמימה (downtime) יכשיל עסקאות ששוויין יותר מ-2,000 $ לשנייה. משום כך חייבים אנשי הצוות במרכז המחשוב העולמי של eBay לספק הן רציפות עסקית (uptime) והן גמישות ברמה הגבוהה ביותר, וכל זאת תוך שמירה על עלויות נמוכות.
זהו אתגר מורכב בהחלט, שכדי להצליח בו דרושה חדשנות מתמדת.
מאז שהתחילה לפעול, בנתה eBay שנים-עשר מרכזי מחשוב, ועומס החישובים רק הולך וגובר. לא פלא שגם עלויות התפעול של מרכזי המחשוב של החברה גדלות מדי שנה, במקביל לצמיחה העסקית הרצופה. בשל כך בנתה חברת eBay תוכנית ארבע-שנתית, והתחילה להפעיל אותה במרכזי המחשוב שלה. לתוכנית יש יעד שאפתני: להקטין את הוצאות החשמל בחצי תוך הכפלה של ביצועי החישוב; יחד עם זאת, המבנה של התשתית החדשה ישפר את המהימנות ואת מהירות התגובה התפעולית.
כדי להשיג יעדים אלה, תמזג חברת eBay את נכסיה ותקטין את מספרם של מרכזי המחשוב שלה. כל מרכז מחשוב חדש ייבנה מן היסוד במטרה להיות חסכוני באנרגיה ככל האפשר, בלי לפגוע ברציפות העסקית.
"אסטרטגיה מוצלחת במרכזי מחשוב מניחה שדרישות המחשוב יגדלו מדי שנה, אבל היא מאפשרת להם לגדול כנדרש בלי לייקר באופן פרופורציוני את עלויות התפעול," מסביר דין נלסון (Dean Nelson), דירקטור בכיר ב-eBay לתפעול ואסטרטגיה במרכזי המחשוב אותו פגשתי בכנס שערכה חברת Starline . "אנו חייבים לשבור את הקשר הליניארי שבין עומס החישובים לבין עלויות התפעול. לשם כך עלינו לעשות קפיצת דרך ביכולות שלנו בתחומי החיסכון באנרגיה, כוח החישוב וניצול השרתים."
במאי 2010 חנכה eBay את מתקן הדגל שלה, אבן הפינה של האסטרטגיה החדשה למרכזי המחשוב, פרויקט 'טופז'. במתקן זה, הממוקם בסאות ג'ורדן, יוטה, השקיעה חברת eBay את ההון הרב ביותר שהשקיעה אי פעם בפרויקט יחיד, והוא מחזיק כשליש מתשתית השרתים העולמית של החברה. אף על פי שהפריסה במרכז הנתונים כוללת את כל היתירות הנדרשת לצורך מהימנות בסיווג Tier IV, מתגאה מתקן 'טופז' בנצילות שימוש בחשמל (PUE) בגובה 1.4 בלבד.
נהלים מיטביים ליעילות מירבית
בתשתיות של 'טופז' שולבו מנגנונים חדשניים לחיסכון באנרגיה. חמישה מרכיבים מרכזיים בתכנון 'טופז' מעוררים עניין מיוחד בשל ערכם ובשל התאמתם לכל מרכז מחשוב מודרני:
1. הפרדה פיזית וסגירה של מעברים קרים /חמים כדי להגיע ליעילות קירור מירבית, התקינה eBay פתרון להפרדה בין מעברים. eBay בחרה בסגירה של המעבר החם, לא לפני שתכננה אותו בתשומת לב, ניסתה אבטיפוס שלו וביצעה מדידות. סגירת המעבר החם מתבצעת על ידי הפרדה קשיחה של המעברים ותיעול האוויר החם החוזר אל מערכות המיזוג דרך התקרה הכפולה.
- האוויר החם חוזר ליחידות המיזוז דרך התקרה
2. הפצה של 400V לכל ארון בחלק מהארונות ב-eBay יושבים שרתי להב מרובים, ולכן החברה רצתה שכל המסדים יהיו מסוגלים לספק עומסים בהספק של עד 17kW. אפשר, אמנם, להשיג זאת גם בשיטה המסורתית, אבל ב'טופז' בחרו למתוח את כבלי המתח הגבוה עד לארונות, והוזילו משמעותית את העלויות. משום שכל מסד מקבל חשמל במתח 400V, מצטמצמים אובדני הכוח בשנאים מורידי המתח ועל הקווים, ויחד עם זאת החברה חוסכת בתשתיות הנחושת. eBay בחרה לספק מתח תלת-פאזי של 400V לשני פסי שקעים חכמים במסד (הנקראים גם "PDU במסד"). מערכות ה-PDU במסדים, מספקות לכל שרת מתח חד-פאזי של 240V. מתח זה נמצא בתוך טווח הפעילות של כל ספק כוח של ציוד IT כלשהו. בזכות ביטולן של המרות מתח מיותרות, הפצת 400V מקטינה את עלויות האנרגיה ב-2-3% בערך בהשוואה להפצת 220V.
3. מדידה מפורטת של צריכת חשמל בשרתים נהוג לומר שהמדד הכלכלי החשוב ביותר בעיניהם של צוותי התפעול במרכזי המחשוב של eBay הוא העלות המצרפית הכוללת לכל חיפוש. ומשום שכל דור שרתים חדש מציע שיפורים אדירים בביצועי ה-CPU, חברת eBay מחליפה את השרתים שלה במחזוריות של שנתיים; הרווח בביצועים פֶּר וואט גבוה ממחירו של הציוד החדש. אבל חברת eBay תקטין באמת את העלות לכל חיפוש רק אם תכלול בחישוביה את כל עלויות התפעול של כל שרת חדש שהיא רוכשת, ולא רק את מחירו. ועלות התפעול הגבוהה ביותר של כל מכשיר היא ההוצאה על צריכת החשמל שלו. כדי לאתר הזדמנויות לחיסכון המרבי, eBay התקינה במסדים מערכות PDU של חברת Raritan הקוראות את צריכת החשמל המדויקת בכל ספק כוח ובכל שרת בודד. פסי השקעים של Raritan מספקים מידע רציף על צריכת החשמל בקוט"ש בכל מכשיר בודד במרכז המחשוב, בדיוק של 1%. רמת דיוק זו מאפשרת, על פי התקינה, חיוב לקוחות על פי מדידה זו. פסי שקעים חכמים אלו מיועדים לספֵּק הן את צרכי ה-IT והן את צרכי המתקן כולו, והן מזינות, בזמן אמיתי, את הנתונים שהן אוספות למערכות ניהול המבנה ורישום הציוד של eBay. במושגי קונסורציום Green Grid, הן מבצעות ניטור PUE מקטגוריה 3 (או PUE3). "פסי שקעים חכמים נותנים לי את הדיוק שאני צריך בשביל לחשב את עלויות התפעול האמיתיות שלי בכל שרת עד האגורה האחרונה," אומר נלסון. "כך אני יכול להכיר את פרופיל היעילות של כל אחד מספקי הציוד, וכשאני מכין את סבב ה-RFP הבא של השרתים, אני יכול לגבש דרישות שיחזירו את מחירן."
4. מדידת טמפרטורה ברזולוציה גבוהה פרויקט 'טופז' שילב מנגנונים מהפכניים שונים במערכת הקירור שלו, ואז פנה להמשיך ולייעל אותה בזמן אמיתי – הן בהיבט העלויות והן בהיבט המהימנות – מתוך היכרות עם סביבת הפעילות של כל אחד מהשרתים. רוב מרכזי המחשוב מודדים ומבקרים את טמפרטורות האוויר היוצא ממערכות המיזוג ואת טמפרטורת האוויר החוזר אליהן. אבל נתונים אלה מוסרים מידע מקורב בלבד על סביבת השרתים האמיתית. הקירובים מאלצים את צוות המתקן לקחת מרווחי ביטחון ולקרר קירור עודף, וזהו צעד בזבזני, בהגדרה. חברת eBay, לעומת זאת, יודעת מהן טמפרטורות הכניסה והיציאה המדויקות בכל ארון וארון במרכז המחשוב 'טופז'. בפרט, מאמצים ב'טופז' את המלצות ASHRAE לניטור סביבתי של שרתים, ומודדים את הטמפרטורה בשלושה מפלסים של המעבר הקר: למעלה, באמצע ולמטה. מדידות אלה מתווספות למדידות במעבר החם. בזכות הניטור הרצוף יכולה eBay לכוונן את משתני הקירור ליעילות מרבית, ויחד עם זאת לקבל התראה מיידית על כל בעיה ברמת השרת. הקורא יזכור את החיישנים ותוכנת LiveImaging מאחד הפוסטים הקודמים.
5. פסי צבירה (busway) עיליים להפצת חשמל ברוב מרכזי המחשוב פרוס מבוך תת רצפתי של קווי חשמל היוצאים מלוחות PDU אל הארונות. אלא שמבנה כזה מפריע לאוורור ובכך משבש את יעילות הקירור. כל זה קורה מתחת לרצפה הצפה ולכן לא זוכה לתשומת לב רבה, אבל עלול להיות משמעותי. יתרה מזאת, תכנון סטנדרטי המכין חיבורי "שוט" (power whips) תת-רצפתיים ייעודיים לכל מפסק, צורך כבלי נחושת מיותרים שאינם מנוצלים היטב, ואף מגביל את גמישות הזיווד של ארונות חדשים. כדי לפתור את הבעיה, משתמשים ב'טופז' בפסי צבירה עיליים של חברת starline להפצת חשמל אשר מאפשרים חיבור קל של הארונות למקור כוח של 400A. לאורכה של כל שורת ארונות מתוחים שני מסלולים, וכל אחד מהם מספק כוח חלופי ובכך מבטל לחלוטין את הצורך בחיבורי "שוט" תת-רצפתיים. תוך דקות אפשר להוסיף שקעים למארזים מוגנים במפסק אוטומטי בכל נקודה לאורך שורת הארונות, במקום להמתין מספר ימים עד שיגיע חשמלאי ויתקין עוד "נקודות חיבור".
סיכום
חברת eBay מעוניינת מאוד בשיפור המהימנות של מערכות המחשוב שלה, שכן זמן דמימה עולה לה 2,000 $ לשנייה, כלומר $120,000 לדקה. בגלל היקף הפעילות הגדול של החברה, היא חייבת לשמור שההוצאות על ציוד ועל חשמל לא יצאו משליטה. משום כך פיתחה eBay מודל למרכזי המחשוב שלה, המבטיח פעילות IT ברמת מהימנות גבוהה מאוד וגם מוזיל את עלויות התפעול ב-50% בהשוואה למרכזים הישנים שהיא מוציאה מפעילות בהדרגה. גם מרכזי מחשוב צנועים יותר שיאמצו את הנהלים המיטביים בתעשיית ה-IT כפי שעשתה eBay, יכולים להאריך את זמן הרציפות העסקית (uptime), לקצץ בהוצאות ולהתייעל, תוך שימוש בציוד זמין ובטכניקות ותהליכים פשוטים.
מהי הטמפרטורה הרצויה בחדרי מחשב? עדכון
וחשוב לא פחות: היכן מודדים את הטמפרטורה? זו אחת השאלות החשובות למנהלי חדר מחשב, והאמת היא גם שעניתי על כך לא אחת בפוסטים קודמים ובמאמרים בעיתונות המקצועית. לא הייתי מטריח את הקורא אלמלא החידושים בתחום. החידושים הם גם בתחום התקינה וגם בתחום תוכנות הניהול והבקרה של חדרי המחשב.
על פי ASHRAE , טווח הטמפרטורה הרצוי לאוויר הקר הנשאב לשרתים הוא בין 18 ל 27 מעלות צלזיוס ( בעבר הלא רחוק זה היה 20-25 ) . הטווח המותר הוא בין 15-31 מעלות. הנוהגים המיטביים בתעשייה מכוונים ליישום טמפרטורה של 24 מעלות. טמפרטורה זו מאפשרת חיסכון בחשמל ועדיין מותירה מרווח ביטחון למקרה של כשל קצר במערכות מיזוג האוויר.
ניתן לכוון לטמפרטורה של 24 מעלות כאשר החדר ממוזג ביעילות, בדרך כלל באמצעות הפרדת מעברים קרים וחמים, ויש אחידות פחות או יותר בטמפרטורת האוויר במעבר הקר.
מס' טעויות נפוצות:
טעות 1: למדוד את הטמפרטורה במקומות לא חשובים כגון במעבר החם, בפינת החדר, ליד התקרה.
מה שחשוב מבחינת שרידות המערכות זה לבקר את האוויר הקר הנשאב לשרתים. מדידות במקומות נוספים כגון במעבר החם ובנקודות הכניסה והיציאה של מערכות מיזוג האוויר חשובות לצורך בקרה על היעילות האנרגטית של מיזוג האוויר בחדרי המחשב. אך, מה שקריטי לצורך שרידות חדר המחשב זו טמפרטורת (ולחות) האוויר בכניסה לשרתים.
טעות 2: למדוד בנקודות בודדות בחדר:
לחסוך בחיישנים זה כבר לא באופנה. המלצת ASHRAE היא למדוד בכל קדמת ארון, בשלוש נקודות גובה את הטמפרטורה והלחות. הנוהגים המיטביים ( best practices ) אומרים: בשלושה גבהים בקדמת ושלושה גבהים בצידו האחורי של ארון השרתים
טעות 3: להיבהל מטמפרטורות גבוהות בחלק האחורי של הארון
תרגיע. 50 מעלות בחלק האחורי של השרת זה בסדר גמור ואפילו טוב מאוד. גם 60 מעלות בהנחה שיש לך הפרדה טובה של מעברים קרים וחמים. אם אין לך, זה סיפור אחר.
טעות 4: לקרר יתר על המידה
יש עדיין כאלה שאוהבים שאנשים יוצאים חולים מחדר המחשב שלהם. סתם בזבוז.
בתמונה המצורפת רואים תמונה שמשגרים חיישנים אלחוטיים ל DASHBOARD . התמונה מראה את מפת החום בחדר המחשב. תוכנה זו הנקראת LIVEIMAGING מבית אלכסנדר שניידר. התוכנה מאפשרת לצפות בזמן אמיתי במצב החדר מבחינה טרמית ולזהות את הנקודות הדורשות טיפול מיידי. חמוד לא?
תוכנה המראה את מפת החום בחדר המחשב בזמן אמיתי
דטה סנטר במכולה – אתר חוות השרתים של THOR באיסלנד
אחת החברות הבולטות בתחום ה datacenter container היא חברת AST MODULAR שאחד ממוצריה הוא ה PMDC המצליח של יבמ.
בסרטו זה, שאורכו 7 דקות מציג הנרי דוארנט, מנכל AST את הקונטיינרים שהתקין באתר THOR שבאיסלנד. אתר זה הוא אחד היעילים בעולם מבחינה אנרגטית, במידה רבה בזכות יכולתו להשתמש ב FREE COOLING כמעט כל השנה. ה PUE באתר זה הוא בסביבות 1.1
גם כאשר FREE COOLING אינו בר ביצוע, זהו פרויקט מעניין לכל מקצוען דטה סנטר. ברור שניתן להתקין גם מערכות מיזוג אוויר המתאימות לאקלים מדברי או ים תיכוני.
כמה דגשים:
17 ארונות שרתים U 42 בקונטיינר, KW 14 כל אחד.
קונטיינר עליון המכיל מערכות מיזוג אוויר וכיבוי אש.
יתירות ברמה TIER3
מערכות PDU מבוקרות,
פסי צבירה (של starline )
מערכות שו"ב כולל אבטחת כניסה ביומטרית
להנאתכם
The Data Center Blog - חדרי מחשב, הקמת אולמות מחשב, חדרי שרתים, חוות שרתים, KVM, ניהול כבילה, UPS, green IT 