Posts tagged ‘דטה סנטר’
The software defined modular datacenter
ראיון מרתק על הדטה סנטר המודולארי עם ג'ורג' שלסמן, מנכ"ל מייסד וארכיטקט ראשי של IO
למצגת מפורטת בנושא או לסיור באתר דטה-סנטר מודולארי, אתם מוזמנים ליצור עמי קשר
חוות שרתים בבניה מודולארית
הקונגרס בארה"ב חוקק חוק הקובע שכל חוות השרתים החדשות של הממשלה הפדרלית ייבנו בטכנולוגיה מודולארית. במה מדובר?
בניה של חוות שרתים מצריכה השקעה ראשונית משמעותית. השקעה זו גדלה עם דרישות היתירות והמיגון. עם זאת, לא רבים יודעים שהוצאות התפעול, בעיקר חשבון החשמל, מגמדות את ההשקעה הראשונית. לתופעה זו ייחדתי לא מעט פוסטים ולא נדון בכך עכשיו.
היתרונות של הדטה סנטר המודולארי הם משמעותיים ביותר:
1. זמן תכנון הנמדד בשבועות לעומת חודשים בגישה המסורתית
2. זמן הקמה קצר: 5-6 חודשים לעומת 24-36 חודשים של חוות שרתים מסורתית זאת בניגוד לחוות שרתים מדור 1.0 שהיא תמיד יחידה ומיוחדת ואין כמוה בעולם ועל כן הסיכון הוא תמיד גדול יותר.
3. תכנון מוכח ומנוסה ואף הוסמך ל טיר 3
4. עלות ההקמה נמוכה יותר בגישה המודולארית משום שיש יתרון כלכלי בייצור על פס ייצור לעומת בניה יחידנית.
5. כל מי שניהל פרויקט בינוי מורכב יודע שחלק גדול מהעלות והסיבה לחריגות בתקציב הוא התארכות הפרויקט מעבר ללו"ז המקורי. פרויקטים ממשלתיים אורכים שנים רבות. במגזר הפרטי, שנתיים. בבנקאות שלוש שנים. בשיטה המודולארית, זמן ההקמה הוא 5-6 חודשים מההזמנה ולכן הסיכון להתארכות הפרויקט קטן מאוד.
6. חוות שרתים מודולארית יכולה להיבנות בשלבים. ועל כן ניתן להתחיל בהשקעה קטנה יותר ובתקציב נוח יותר לארגון.
7. עלות המימון קטנה בהרבה כאשר בונים מודולארית
8. עלות התפעול זולה יותר. זאת משום שחוות שרתים מודולארית יכולה להיות מאוד יעילה מבחינה אנרגטית
9. עדכנות טכנולוגית: מערכות המחשוב/תקשורת/אחסון מתפתחות בקצב מואץ של דור אחד לכל שנתיים-שלוש. מערכות התשתית של הדטה סנטר מתפתחות בקצב איטי יותר של כל 5-6 שנים בערך. בשיטה המודולארית, ניתן להתקדם עם הטכנולוגיה ולהגיב לצרכים משתנים באופן ממוקד ללא השפעה על כלל המתקן.
10. עמידות במפגעים פיזיים טובה יותר בשיטה המודולארית. לדוגמא, דליקה בחוות שרתים מסורתית תשבית את כל המתקן. בחווה מודולרית, יושבת רק המודול היחידי בו אירע האירוע.
11. מערכת שו"ב מובנית בכל מודול חוסכת עלות משמעותית של פרויקט שו"ב
אם נחזור לשאלה המקורית בתחילת הפוסט, הממשל הפדרלי החליט לחסוך כסף. רעיון לא רע, גם אם מדובר בכספי ציבור.
בתמונה אתר של חוות שרתים מודולארית בניו-ג'רזי. האתר מתוכנן ל 100 מגה וואט מתוכו כ 50% בערך כבר מאוכלס. התמונה מראה את החלק הראשון של המתקן בגודל של 3 מגה-וואט שהיה מוכן לפעולה 95 יום אחרי החוזה
החסרונות: זה לא למתקנים קטנים. לטעמי, גודל מינימאלי הוא 800 קילו-וואט. עוד חיסרון: נדרש גובה של כ 6 מטר בערך בין רצפת הבטון לתקרה.
טעות קטנה בדטה סנטר..
ידיעה קטנה בעיתונות תפסה את עיני: במשך כשעה פחות או יותר, משתמשים ברחבי העולם לא הצליחו להעלות פוסטים ולסמן לייקים בפייסבוק בשל בעיה בדטה סנטר של פייסבוק. מפייסבוק נמסר ש"מוקדם יותר היום הבוקר (שעון ארה"ב), בזמן ביצוע עבודות תחזוקה, חווינו אירוע אשר מנע מחלק מהמשתמשים להעלות פוסטים לפייסבוק לפרק זמן קצר. פתרנו את הבעיה במהירות והמערכת שבה לפעול בתפקוד מלא. אנו מתנצלים על אי הנוחות אשר נגרמה".
למרות היותי חובב גאדג'טים וטכנולוגיה אינני מנוי בפייסבוק, כנראה בשל הפרעת אישיות כלשהי. נפילת פייסבוק אם כך לא הפריעה לי מאוד במישור האישי, שגרת יומי לא הופרעה ומצב רוחי לא נפגע. אך דבר מה קטן נוסף לכד את עיני: מניית פייסבוק נפלה עקב האירוע ב- 0.6%. לא נורא, נכון? ובכן, בשווי שוק של כ-100 מיליארד דולר, 0.6% זה 600 מיליון דולר. קצת הרבה בשביל טעות טכנאי בזמן תחזוקה.
ידוע ש 60% מהאירועים המביאים לנפילה של חוות שרתים הם תוצאה של בעיות בתכנון ותפעול של התשתית הפיזית, כלומר, מיזוג אוויר , חשמל ותשתית תקשורת. לא סוד הוא שבישראל מרבית חוות השרתים מיושנות ברמת התשתית וסובלות מרעב תקציבי מתמשך. זה מתבטא במיזוג אוויר לא יעיל, בניהול כבילה בעייתי, בחוסר מוכנות לרעידות אדמה, ובמערכות חשמל מאולתרות. התוצאה הישירה היא סיכון לרציפות העסקית. נשאלת השאלה אם כך, האם ניתן לכמת את הסיכון?
רבות נכתב על הערכת העלות של זמן דמימה ( downtime ) של חוות שרתים. הערכת העלות לשעה של זמן דמימה נעה בין אלפי דולרים לארגונים קטנים ועד לעשרות מיליונים לשעה עבור ארגונים פיננסיים גדולים. הערכת הנזק מחושבת בדרך כלל על בסיס ערך העסקאות שעורך הארגון בתקופת זמן יחד עם הערכה גסה של עלות אובדן מוניטין ואיבוד לקוחות. המקרה של פייסבוק מאיר צד נוסף של הבעיה. הנזק לבעלי המניות עקב הפגיעה במחיר המניה. לא אתפלא אם העלות של מניעה אפקטיבית של הבעיה שהתעוררה בפייסבוק היא אלפית מהנזק שספגו בעלי המניות. 600 מיליון דולר כבר אמרנו?
לא אחת אני שותף לתסכולו של סמנכ"ל הטכנולוגיות בארגון, אשר מזהה את הסיכון אך לא מצליח להשיג תקציב למזעור הסיכונים. מקרה פייסבוק מאפשר למנמ"ר לפנות למנכ"ל ולחברי הדירקטוריון ולשאול אותם: " מה יקרה למחיר המניה, אם חוות השרתים, חוט השדרה של העסק שלנו, תידום לשעה? יום? שלושה ימים?"
סקר ביצועים וסיכונים בחוות שרתים הכרחי כדי לחשוף בעיות שיכולות לסכן את הרציפות העסקית. בחברת אלכסנדר שניידר אנו מבצעים סקר של חדרי שרתים ומזהים
1. סיכונים לרציפות העסקית
2. פוטנציאל לשיפור ביעילות האנרגטית ובהוצאות התפעול
3. דרכים למקסם את התשתית הקיימת כדי לתמוך בעוד מערכות ( Hidden Capacity )
7 דרכים למיזוג אוויר יעיל אנרגטית בחדרי שרתים.
מאז אוגוסט 2011 עלו מחירי החשמל בישראל ביותר מ30% (נכון לפברואר 2012). למי שמנהל חדרי שרתים, עובדה זו כואבת במיוחד משום שעלויות צריכת החשמל של חדרי המחשב הגיעו ל 20-25% מהוצאות התפעול השוטפות. בשל הדרך בה תוכננו חדרי השרתים או בשל הדרך בה הם מנוהלים, חלק משמעותי מצריכת האנרגיה מקורה בבזבוז בעיקר בשל חוסר יעילות בדרכי מיזוג האוויר.
בארגונים נאורים בהם חשבון החשמל של חדרי השרתים נבחן בדקדקנות, העלייה בצריכת החשמל הביאה לבחינה מחודשת של דרכי התכנון והניהול של מרכזי המחשוב. בארגונים פחות נאורים, חשבון החשמל משולם על ידי גוף תפעול מרכזי שאינו מסוגל לנתח את הנתונים והתוצאה היא בזבוז שעלותו מאות אלפי ואף מיליוני שקלים בשנה, תלוי בגודל המתקן. לדוגמא: במתקן של ארגון בינוני שבו כ 400 שרתים, צריכת החשמל של השרתים תהיה כ 200 קילוואט לערך. צריכת החשמל הכוללת של המתקן תכלול גם את צריכת החשמל למיזוג אוויר ולמערכות תשתית נוספות. בחדר מחשב בגודל זה המופעל היטב ( PUE=1.5 ) חשבון החשמל הכולל יהיה כ מיליון וחצי ₪ בשנה. בחדר מחשב בגודל דומה המנוהל ללא מתן חשיבות לצריכת החשמל ( PUE=3 ) , ויש רבים כאלו בישראל, חשבון החשמל יעלה כ 3 מיליון ₪, בזבוז של מיליון וחצי ש"ח בשנה או 15 מיליון ₪ בעשר שנים. להסבר על PUE
למי שלא בחן את הנושא מקרוב עד כה, אציין רק שעלות החשמל הנדרשת להפעיל ולקרר שרת מתקדם לאורך 3 שנים גבוהה יותר מעלות השרת עצמו.
בארונות INRACK אלו טמפרטורת מיים קרים של 18 מעלות
בפוסט הקודם תיארתי 10 נוהגים מתקדמים של חדרי שרתים ( datacenter Best Practices ) . הפעם אתמקד בנושא מיזוג האוויר בחדרי שרתים.
רבים ממנהלי חדר המחשב יודעים שעליהם ליישם מעברים קרים וחמים ולזווד פנלים עיוורים בארונות שרתים כדי למנוע חזרת אוויר חם אל קדמת הארון. על כן, לא אעסוק בנושאים טריוויאלים מעין אלו. אלא אתמקד בנוהגים מתקדמים אשר לא רבים בישראל נתנו עליהם את הדעת:
ניתן לחסוך בצריכת החשמל למיזוג בן 30% ל 50% על ידי הפרדה מוחלטת של אוויר קר וחם ועל ידי העלאת טמפרטורת העבודה. הפרדה מוחלטת של אוויר קר וחם מתבצעת על ידי הכלה ( Containment ) והעלאת טמפרטורת העבודה מתבצעת על ידי העלאת טמפרטורת המים הקרים למיזוג ( CW ) מ 7 מעלות ל 16 ואף 18 מעלות צלזיוס. נסביר…
1. הפרדה מוחלטת של אוויר קר וחם על ידי הכלה ( Containment ) של האוויר הקר ( Cold Containment ) או הכלה של האוויר החם ( Hot Containment ) . בחדרי שרתים הממוזגים בשיטת קירור החדר ( בדרך כלל על ידי מערכות ליברט ) הכלת האוויר הקר מתבצעת על ידי סגירת המעבר הקר או על ידי הכלת החום באמצעות ארונות ארובה. אגב, בשיטה הראשונה (סגירת מעבר קר) ניתן להגיע ל 15 קילוואט לארון שרתים ועל ידי ארונות ארובה ניתן להגיע ל KW 30 לארון שרתים.
2. שימוש במערכות קירור ממוקד הקרוי בדרך כלל "ארונות קרור מים" . קירור ממוקד זה יכול להיות מפוזר בשורות ( in row cooling ) או בתוך ארון השרתים באופן הקרוי InRack Cooling.
3. בשיטת קירור השורה ניתן לסגור את המעבר הקר או את המעבר החם. שתי השיטות טובות אם כי רבים ממש שונאים לעבוד במעבר חם סגור בשל אי הנוחות שבכך. קיימת שיטה היברידית אשר נקראת שיטת החדר הקר ( cool room concept ) אשר לה אייחד מאמר נפרד בקרוב והיא מיישמת את כל היתרונות של סגירת המעבר החם ללא החסרונות.
4. העלאת טמפרטורת העבודה. עד לאחרונה נהגו המתכננים לעבוד עם צ'ילרים שקררו את המים הקרים ל 7 מעלות צלזיוס. העלאת טמפרטורת המים הקרים ל 16 ואף 18 מעלות מספקת חיסכון בצריכת החשמל של כ 3% לכל מעלה. בחישוב זריז מדובר על חיסכון של כ 30% רק משינוי טמפרטורת העבודה.
אגב, העלאת טמפרטורת העבודה תאפשר גם לקבל כ 25% יותר קיבולת קירור מהצ'ילר אם כי נתון זה משתנה ממודל למודל.
חשוב מאוד: כדי ליישם שיטה מתקדמת זו הלכה למעשה יש לבחור מערכות In Rack או InRow המסוגלות לספק את קיבולת הקירור המקסימאליות בטמפרטורות CW אלו. ישנן מערכות, רחמנא ליצלן, שבטמפרטורות אלו של 16 מעלות מיים קרים קיבולת הקירור שלהן יורדת ב 50% ואך יותר. מיצרנים כאלו מומלץ להישמר.
5. מדידה ובקרה – אי אפשר לנהל ולייעל את מה שאינו נמדד. חיישנים וכלי תוכנה מתקדמים מודדים את יעילות צריכת האנרגיה ( PUE ) ומידת השימוש בתשתיות ומאפשרים קבלת החלטות ניהוליות מושכלות. לדוגמא: חישוב קל של החזר השקעה של IT Refresh .
6. מודולאריות בתכנון – השקעה בציוד תשתית לעומס מקסימאלי כבר בתחילת חיי חדר המחשב היא מתכון לבזבוז ולשיתוק היכולת לאמץ טכנולוגיות חדשות עם הזמן. תכנון מודולארי מאפשר מדרוג ההשקעה לאורך שנים ( pay as you grow ) וחיסכון משמעותי ב TCO. מודולאריות מאפשרת גם שימוש אופטימאלי בטכנולוגיות מתקדמות ובמוצרים חדישים.
7. ניהול בזמן אמת באמצעות כלי תוכנה – קצת עצוב שהתשתיות הפיזיות של חוות השרתים בישראל מנוהלות בדרך כלל בגיליונות אקסל. קיימים כלי תוכנה ( SPM, DC Track, Power IQ ) קלים לשימוש המאפשרים ניצול מיטבי של ההשקעה בתשתית, הצגת לוח מחוונים ( Dashboard ) בזמן אמיתי והעיקר: יכולת תגובה מהירה לשינויים.
ארגון אשר יישם את שבעת הנוהגים המתקדמים הללו ויפנים את העקרונות שעיצבו אותם, ישפר משמעותית את יעילות מיזוג האוויר של חדרי השרתים בכ 30%-50% , ויוכל לחסוך לארגון כספים רבים שישמשו אותו להקצאת משאבים להתעצמות.
מיגון: חדרי המחשב יורדים אל מתחת לאדמה
חדר שרתים ממוגן לפי BEST PRACTICES
הסיבה הברורה היא איום הרקטות והטילים. ישראל כולה בטווח של טילי האוייב. ברור לכל שפגיעה בחדר שרתים של ארגון חיוני למשק ,גם אם לא תגרום לאבדות בנפש, תגרום לנזק כלכלי עצום. בארגונים בסקטור העסקי, בעלי המניות עושים לעצמם חישוב פשוט: מה יקרה למחיר המניה אם יושבת חדר השרתים שלנו בגלל פגיעה קרובה או ישירה של רקטה או טיל. התוצאה: ארגונים רבים מחפשים לשכור או לרכוש נדל"ן המצוי מתחת לפני הקרקע. לי ידוע לפחות על שלושה פרויקטים גדולים שנמצאים בתהליך מתקדם בימים אלו בהיקף כולל של מעל 100 מיליון שקלים. חברת אלכסנדר שניידר מובילה שניים מהם.
לא מזמן אירחתי מלקוחות מחו"ל שהתפלאו על המגמה הייחודית הזו. ובכן, סיברתי את אוזניהם, בכל מקום ממגנים את הדטה סנטר כנגד איומי הייחוס הרלבנטים: הוריקן בחוף המזרחי של ארה"ב, טורנדו במרכז ארה"ב, רעידות אדמה במערב ארה"ב, דרום אמריקה, יפן, סין וטורקיה. שיטפונות בחלקים נרחבים של אירופה וכן הלאה. בישראל מתעלמים לפי שעה מהסיכון של רעידות אדמה אך מתייחסים ברצינות לסיכון הטילים. עניין של אופי.
מאחר וכאומה אנו לא מצטיינים בתכנון לטווח ארוך, ונדל"ן מסוג זה אינו מצוי בידי הארגונים, הרי שיש למצוא אותם בשוק החופשי. החדשות הטובות הן שיש די הרבה נדלן בדמות חניונים וקומות מרתף פנויות ומחירן יחסית זול משום שהן אינן ראויות לאכלוס משרדי. הרשויות בד"כ משתפות פעולה אם נדרש שינוי ייעוד אם כי נדרש לעניין עו"ד טוב. ועורכי דין, ברוך השם, לא חסר במדינתנו.
לפני שחותמים חוזה שכירות ארוך טווח, כדאי לבדוק כמה דברים: זמינות של תשתיות לאספקת חשמל שתידרש לאורך חיי המתקן, האפשרות להתקין תשתיות למיזוג אוויר, מיגון מפני הצפה, תשתית תקשורת , דרכי גישה ועוד גורמים רבים שיש לבדוק באמצעות סקר מקצועי.
אחד המאפיינים של קומות תת קרקעיות זמינות בדרך כלל הוא מגבלה של גובה. לאלו שלא חיים את עולם חדרי השרתים, נקצר ונאמר שהגובה נדרש לצורך מעבר של ספיקת אוויר מספקת לצרכי מיזוג אוויר. גובה של 4 עד 5 מטר נחשב מספק. במרבית החניונים והנדלן התת קרקעי הגובה המצוי הוא מתחת ל 3 מטר. אל דאגה, באמצעים הטכנולוגיים של היום ניתן לבנות חדר שרתים נפלא בגובה זה באמצעות קירור בצמידות גבוהה הקרוי בפי העם, קצת בטעות, קירור מים.
אז אם אתה הבעלים של שטח נדלני תת קרקעי שניסית להשכיר ללא הצלחה במשך שנים, דע לך שבהנחה שהתקיימו הגורמים הנ"ל מהיום אתה הבעלים של אתר תשתית לדטה סנטר.
בתמונה חדר שרתים מתקדם תת קרקעי של אחד מלקוחותינו. למרות המיקום באתר "קלאוסטרופובי" החדר הוא אחד המתקדמים בישראל. כל ארון שרתים מתוכנן לשאת עומס של עד 15 קילוואט. יחידות מיזוג האוויר תוצרת Knurr Emerson מוצבות בין הארונות לפי עיקרון קירור שורה Inrow .
והערה אישית: לאחר הפסקה ארוכה של כתיבה בבלוג, ולאחר שקיבלתי לא מעט הערות נבזיות מידידי בתעשייה על כך שהפסקתי לכתוב, אני חוזר למוטב ומחדש את הרענון השוטף של בלוג חדרי השרתים.
חיסכון באנרגיה בזמן אמיתי ונהלים מיטביים. מה ניתן ללמוד מ eBay ?
זירת המסחר eBay היא אחת מזירות המסחר האינטרנטי הגדולות בעולם, ולכן היא דורשת שרידות מוחלטת ממרכז המחשוב שלה; כל זמן דמימה (downtime) יכשיל עסקאות ששוויין יותר מ-2,000 $ לשנייה. משום כך חייבים אנשי הצוות במרכז המחשוב העולמי של eBay לספק הן רציפות עסקית (uptime) והן גמישות ברמה הגבוהה ביותר, וכל זאת תוך שמירה על עלויות נמוכות.
זהו אתגר מורכב בהחלט, שכדי להצליח בו דרושה חדשנות מתמדת.
מאז שהתחילה לפעול, בנתה eBay שנים-עשר מרכזי מחשוב, ועומס החישובים רק הולך וגובר. לא פלא שגם עלויות התפעול של מרכזי המחשוב של החברה גדלות מדי שנה, במקביל לצמיחה העסקית הרצופה. בשל כך בנתה חברת eBay תוכנית ארבע-שנתית, והתחילה להפעיל אותה במרכזי המחשוב שלה. לתוכנית יש יעד שאפתני: להקטין את הוצאות החשמל בחצי תוך הכפלה של ביצועי החישוב; יחד עם זאת, המבנה של התשתית החדשה ישפר את המהימנות ואת מהירות התגובה התפעולית.
כדי להשיג יעדים אלה, תמזג חברת eBay את נכסיה ותקטין את מספרם של מרכזי המחשוב שלה. כל מרכז מחשוב חדש ייבנה מן היסוד במטרה להיות חסכוני באנרגיה ככל האפשר, בלי לפגוע ברציפות העסקית.
"אסטרטגיה מוצלחת במרכזי מחשוב מניחה שדרישות המחשוב יגדלו מדי שנה, אבל היא מאפשרת להם לגדול כנדרש בלי לייקר באופן פרופורציוני את עלויות התפעול," מסביר דין נלסון (Dean Nelson), דירקטור בכיר ב-eBay לתפעול ואסטרטגיה במרכזי המחשוב אותו פגשתי בכנס שערכה חברת Starline . "אנו חייבים לשבור את הקשר הליניארי שבין עומס החישובים לבין עלויות התפעול. לשם כך עלינו לעשות קפיצת דרך ביכולות שלנו בתחומי החיסכון באנרגיה, כוח החישוב וניצול השרתים."
במאי 2010 חנכה eBay את מתקן הדגל שלה, אבן הפינה של האסטרטגיה החדשה למרכזי המחשוב, פרויקט 'טופז'. במתקן זה, הממוקם בסאות ג'ורדן, יוטה, השקיעה חברת eBay את ההון הרב ביותר שהשקיעה אי פעם בפרויקט יחיד, והוא מחזיק כשליש מתשתית השרתים העולמית של החברה. אף על פי שהפריסה במרכז הנתונים כוללת את כל היתירות הנדרשת לצורך מהימנות בסיווג Tier IV, מתגאה מתקן 'טופז' בנצילות שימוש בחשמל (PUE) בגובה 1.4 בלבד.
נהלים מיטביים ליעילות מירבית
בתשתיות של 'טופז' שולבו מנגנונים חדשניים לחיסכון באנרגיה. חמישה מרכיבים מרכזיים בתכנון 'טופז' מעוררים עניין מיוחד בשל ערכם ובשל התאמתם לכל מרכז מחשוב מודרני:
1. הפרדה פיזית וסגירה של מעברים קרים /חמים כדי להגיע ליעילות קירור מירבית, התקינה eBay פתרון להפרדה בין מעברים. eBay בחרה בסגירה של המעבר החם, לא לפני שתכננה אותו בתשומת לב, ניסתה אבטיפוס שלו וביצעה מדידות. סגירת המעבר החם מתבצעת על ידי הפרדה קשיחה של המעברים ותיעול האוויר החם החוזר אל מערכות המיזוג דרך התקרה הכפולה.
- האוויר החם חוזר ליחידות המיזוז דרך התקרה
2. הפצה של 400V לכל ארון בחלק מהארונות ב-eBay יושבים שרתי להב מרובים, ולכן החברה רצתה שכל המסדים יהיו מסוגלים לספק עומסים בהספק של עד 17kW. אפשר, אמנם, להשיג זאת גם בשיטה המסורתית, אבל ב'טופז' בחרו למתוח את כבלי המתח הגבוה עד לארונות, והוזילו משמעותית את העלויות. משום שכל מסד מקבל חשמל במתח 400V, מצטמצמים אובדני הכוח בשנאים מורידי המתח ועל הקווים, ויחד עם זאת החברה חוסכת בתשתיות הנחושת. eBay בחרה לספק מתח תלת-פאזי של 400V לשני פסי שקעים חכמים במסד (הנקראים גם "PDU במסד"). מערכות ה-PDU במסדים, מספקות לכל שרת מתח חד-פאזי של 240V. מתח זה נמצא בתוך טווח הפעילות של כל ספק כוח של ציוד IT כלשהו. בזכות ביטולן של המרות מתח מיותרות, הפצת 400V מקטינה את עלויות האנרגיה ב-2-3% בערך בהשוואה להפצת 220V.
3. מדידה מפורטת של צריכת חשמל בשרתים נהוג לומר שהמדד הכלכלי החשוב ביותר בעיניהם של צוותי התפעול במרכזי המחשוב של eBay הוא העלות המצרפית הכוללת לכל חיפוש. ומשום שכל דור שרתים חדש מציע שיפורים אדירים בביצועי ה-CPU, חברת eBay מחליפה את השרתים שלה במחזוריות של שנתיים; הרווח בביצועים פֶּר וואט גבוה ממחירו של הציוד החדש. אבל חברת eBay תקטין באמת את העלות לכל חיפוש רק אם תכלול בחישוביה את כל עלויות התפעול של כל שרת חדש שהיא רוכשת, ולא רק את מחירו. ועלות התפעול הגבוהה ביותר של כל מכשיר היא ההוצאה על צריכת החשמל שלו. כדי לאתר הזדמנויות לחיסכון המרבי, eBay התקינה במסדים מערכות PDU של חברת Raritan הקוראות את צריכת החשמל המדויקת בכל ספק כוח ובכל שרת בודד. פסי השקעים של Raritan מספקים מידע רציף על צריכת החשמל בקוט"ש בכל מכשיר בודד במרכז המחשוב, בדיוק של 1%. רמת דיוק זו מאפשרת, על פי התקינה, חיוב לקוחות על פי מדידה זו. פסי שקעים חכמים אלו מיועדים לספֵּק הן את צרכי ה-IT והן את צרכי המתקן כולו, והן מזינות, בזמן אמיתי, את הנתונים שהן אוספות למערכות ניהול המבנה ורישום הציוד של eBay. במושגי קונסורציום Green Grid, הן מבצעות ניטור PUE מקטגוריה 3 (או PUE3). "פסי שקעים חכמים נותנים לי את הדיוק שאני צריך בשביל לחשב את עלויות התפעול האמיתיות שלי בכל שרת עד האגורה האחרונה," אומר נלסון. "כך אני יכול להכיר את פרופיל היעילות של כל אחד מספקי הציוד, וכשאני מכין את סבב ה-RFP הבא של השרתים, אני יכול לגבש דרישות שיחזירו את מחירן."
4. מדידת טמפרטורה ברזולוציה גבוהה פרויקט 'טופז' שילב מנגנונים מהפכניים שונים במערכת הקירור שלו, ואז פנה להמשיך ולייעל אותה בזמן אמיתי – הן בהיבט העלויות והן בהיבט המהימנות – מתוך היכרות עם סביבת הפעילות של כל אחד מהשרתים. רוב מרכזי המחשוב מודדים ומבקרים את טמפרטורות האוויר היוצא ממערכות המיזוג ואת טמפרטורת האוויר החוזר אליהן. אבל נתונים אלה מוסרים מידע מקורב בלבד על סביבת השרתים האמיתית. הקירובים מאלצים את צוות המתקן לקחת מרווחי ביטחון ולקרר קירור עודף, וזהו צעד בזבזני, בהגדרה. חברת eBay, לעומת זאת, יודעת מהן טמפרטורות הכניסה והיציאה המדויקות בכל ארון וארון במרכז המחשוב 'טופז'. בפרט, מאמצים ב'טופז' את המלצות ASHRAE לניטור סביבתי של שרתים, ומודדים את הטמפרטורה בשלושה מפלסים של המעבר הקר: למעלה, באמצע ולמטה. מדידות אלה מתווספות למדידות במעבר החם. בזכות הניטור הרצוף יכולה eBay לכוונן את משתני הקירור ליעילות מרבית, ויחד עם זאת לקבל התראה מיידית על כל בעיה ברמת השרת. הקורא יזכור את החיישנים ותוכנת LiveImaging מאחד הפוסטים הקודמים.
5. פסי צבירה (busway) עיליים להפצת חשמל ברוב מרכזי המחשוב פרוס מבוך תת רצפתי של קווי חשמל היוצאים מלוחות PDU אל הארונות. אלא שמבנה כזה מפריע לאוורור ובכך משבש את יעילות הקירור. כל זה קורה מתחת לרצפה הצפה ולכן לא זוכה לתשומת לב רבה, אבל עלול להיות משמעותי. יתרה מזאת, תכנון סטנדרטי המכין חיבורי "שוט" (power whips) תת-רצפתיים ייעודיים לכל מפסק, צורך כבלי נחושת מיותרים שאינם מנוצלים היטב, ואף מגביל את גמישות הזיווד של ארונות חדשים. כדי לפתור את הבעיה, משתמשים ב'טופז' בפסי צבירה עיליים של חברת starline להפצת חשמל אשר מאפשרים חיבור קל של הארונות למקור כוח של 400A. לאורכה של כל שורת ארונות מתוחים שני מסלולים, וכל אחד מהם מספק כוח חלופי ובכך מבטל לחלוטין את הצורך בחיבורי "שוט" תת-רצפתיים. תוך דקות אפשר להוסיף שקעים למארזים מוגנים במפסק אוטומטי בכל נקודה לאורך שורת הארונות, במקום להמתין מספר ימים עד שיגיע חשמלאי ויתקין עוד "נקודות חיבור".
סיכום
חברת eBay מעוניינת מאוד בשיפור המהימנות של מערכות המחשוב שלה, שכן זמן דמימה עולה לה 2,000 $ לשנייה, כלומר $120,000 לדקה. בגלל היקף הפעילות הגדול של החברה, היא חייבת לשמור שההוצאות על ציוד ועל חשמל לא יצאו משליטה. משום כך פיתחה eBay מודל למרכזי המחשוב שלה, המבטיח פעילות IT ברמת מהימנות גבוהה מאוד וגם מוזיל את עלויות התפעול ב-50% בהשוואה למרכזים הישנים שהיא מוציאה מפעילות בהדרגה. גם מרכזי מחשוב צנועים יותר שיאמצו את הנהלים המיטביים בתעשיית ה-IT כפי שעשתה eBay, יכולים להאריך את זמן הרציפות העסקית (uptime), לקצץ בהוצאות ולהתייעל, תוך שימוש בציוד זמין ובטכניקות ותהליכים פשוטים.
הצצה לחדר המחשב של אינטל ישראל
אינטל ישראל מספקת הצצה נדירה לחדר המחשב שלה. ניתן להתרשם מהסדר וההקפדה על נוהגים מתקדמים( Datacenter Best Practices ) בסרט אותו מנחה עופר ליאור , מנהל הדאטה סנטר באינטל חיפה.
אישית רוויתי נחת מהצגת ארונות High Density המבוססים על קירור מים שסופקו על ידינו, חברת אלכסנדר שניידר. מדובר בארונות Cooltherm תוצרת קנור (Knurr ) , שבהם מחליף החום נמצא בתחתית הארון ( In-Rack Cooling ) . בשל הקירור הממוקד ניתן לקרר עד KW 35 בארון ו/או לחסוך הרבה מאוד כסף בחשבון החשמל. זו המערכת היעילה ביותר ל high density הקיימת היום בשוק.
בכל ארון כזה עובדים 6 בלייד סנטרים ( 84 שרתים) . עוד חשוב לדעת שיחידות אלו צורכות מים קרים בטמפרטורה של 16 מעלות, דבר המקנה לדטה סנטר חיסכון משמעותי בחשבון החשמל וניצול מקסימאלי של יכולות הצ'ילר.
למען הסר ספק, השורות למטה הן תוספות שלי ואינן מוצגות בסרט:
למי שלא עוקב אחרי נושאים אלו ביומיום, אציין שבדרך כלל, מערכות מיזוג אוויר דורשות מים קרים בטמפרטורה של 6-7 מעלות כדי לספק קירור ברמה המתקרבת לטענות אנשי השיווק שלהם.
מערכת כגון זו שלנו, המאפשרת להגיע לקיבולת קירור מליאה ב 16 מעלות מים קרים מספקת את היתרונות הבאים
1. חיסכון של 30% חשבון החשמל לקירור ( 3% לכל מעלת צלזיוס)
2. אין בזבוז אנרגיה הנגרם מהוצאת והשבת לחות לאוויר
3. הצ'ילרים נותנים יותר קיבולת קירור בטמפרטורות מים גבוהות
תודה לאינטל שמשתפת את השוק בתובנות שפיתחה ומסייעת לתעשייה להתייעל ולחסוך באנרגיה חשמלית.
Best Practices: ארונות למתגים של CISCO
לסיסקו מספר סדרות של מתגים ביניהם סדרות ה 9513 Catalyst 6509 , MDS, ולאחרונה סדרת ה Nexus 7000.
נתבקשתי מס' פעמים בחודש האחרון להמליץ על ארון מתאים ( Switch Cabinet ) עבור ה
NEXUS 7018. ראו תמונה 1
תמונה 1: ארון Net-access של Panduit שפותח יחד עם סיסקו עבור ה NEXUS
מתגי CISCO מהווים אתגר בכל הקשור לאחסנה נאותה בארונות חדר המחשב. שני הנושאים המאתגרים ביותר הם
- ניהול החום
- ניהול הכבילה
ניהול חום: מתגי Cisco, ברובם הגדול, פולטים חום לצד ולא לאחור. בארון SWITCH מתקדם, תהיה הכוונה פסיבית של האוויר החם לאחור. ראו תמונה 2 . הכוונה מכאנית זו מאפשרת לשלב את ארונות הסיסקו עם העמדה של מעבר קר ומעבר חם כנהוג וכרצוי בחדרי מחשב.
תמונה 2
ניהול כבילה:
הכבילה המסיבית גורמת להתפרשות על מספר ארונות, אילוץ המביא לבזבוז שטח יקר ולחוסר סדר בכבילה. ארון Switch מתקדם יאפשר שימוש בארון אחד וחיסכון עצום במקום. ראו תמונות 1 ( ארון ל NEXUS ) ותמונה 3 – המראה שלושה מתגי Catalyst 9513 מחווטים למופת בארון אחד.
תמונה 3
למען גילוי נאות, קל לי להמליץ משום שאנו עובדים שנים רבות עם Panduit, החברה שפיתחה יחד עם Cisco את הארונות עבור המתגים הללו. ראו www.panduit.co.il
טמפרטורת האוויר הקר בחדרי מחשב
מרבית חדרי המחשב מבזבזים אנרגיה וכסף רב, כך אמר דילן לארסון, דירקטור של Platform technology initiatives בחברת אינטל בדיון שנערך בפורום של מחשוב עננים בהשתתפות חברות כגון יבמ, HP, קנור-אמרסון וLawrence Berkeley National Lab .
במחקר שנערך קודם לדיון ע"י אמרסון בקרב אגוד משתמשי הדטה סנטר ( DCUG ), התברר שמרבית הארגונים מקררים את חדרי המחשב יתר על המידה.
בעוד שהמלצות ASHRAE מתירות לקרר את האוויר הקר המגיע לשרתים לרמה מקסימאלית של 27 מעלות, כל הארגונים שנסקרו ( כ 70) מקררים לטמפרטורת אוויר של 21 מעלות ומטה.
זהו בזבוז, הדגיש דילן לארסן, העלאת הטמפרטורה חוסכת הרבה מאוד חשמל וכסף.
בישראל המצב אף יותר קיצוני. הסיבות לקירור יתר ולבזבוז הנובע מכך הן כדלקמן:
- חוסר מודעות של מנהלי חדרי המחשב לפוטנציאל הגדול לחיסכון בהעלאת הטמפרטורה
- הנחה מוטעית שהמחשבים יתפקדו טוב יותר בטמפרטורות קרות מאוד
- קירור בלתי ממוקד (קירור חדר) מצריך "מאבק" בנקודות חום שונות ולשם כך מקררים את כל החדר יתר על המידה
- חוסר נוחות טבעי מעבודה בקצות הטווח המותר
- ארונות High density שאינם ממוזגים באופן מקצועי וממוקד מכתיבים למעשה את מיזוג אוויר בזבזני
כתוצאה מקירור היתר הזה, על כל שקל המושקע בחשמל ל IT מושקעים עוד שקל עד שניים בתקורה שרובה הוא מיזוג אוויר ( PUE בין 2 ל 3 ) . בזבוז כבר אמרנו?
ניהול חדרי מחשב ; הנושאים המעסיקים את מנהלי חוות השרתים
פרסום של ה DataCenter User Group כפי שנמסר בועידת DataCenter Dynamics ביוהנסבורג על ידי חברת Emerson מראה את האתגרים עימם מתמודדים מנהלי חדרי המחשב ( data centers ) וכן השוואה ל שנים 2007 ו 2005
בשנת 2005, שלושת הנושאים החשובים היו:
1. צפיפות חום והספק ( heat and power densities ) ,
2. זמינות מידע ( availability )
3. מחסור בשטח רצפה.
יעילות בצריכת החשמל כלל לא הוזכרה בעשיריה הראשונה.
בשנת 2007 , הנושאים החשובים היו:
1. חום
2. הספק
3. יעילות צריכת החשמל של חדרי המחשב.
כלומר, ב 2007 יעילות צריכת החשמל נהפכה לנושא מרכזי
בשנת 2009 הנושאים החשובים היו:
1.חום ומיזוג אוויר
2. יעילות צריכת החשמל
3. ניהול חדרי המחשב, נושא אליו נתייחס בהרחבה בפוסטים הבאים.
נושא יעילות צריכת החשמל בחדרי המחשב ממשיך להיות במוקד הדאגה של מנהלי חדרי המחשב . זאת בשל המשך הגידול בצריכה בקילו-וואט שעה והעלייה במחירי האנרגיה ( צפי: 10% בשנה). כמו כן, מחסור ב CAPACITY מזרז את פרוייקטי ההתייעלות.
The Data Center Blog - חדרי מחשב, הקמת אולמות מחשב, חדרי שרתים, חוות שרתים, KVM, ניהול כבילה, UPS, green IT 