Posts filed under ‘חוות שרתים’
לקחים מתקלות בחדרי מחשב 2 #
מוקד השרות שלנו קיבל את הקריאה. התראה על נזילת מים התקבלה מחדר המחשב של אחד מלקוחותינו. חוות השרתים הושבתה. צוות השירות שלנו הוזנק למקום.
מדובר בחדר מחשב מתקדם שבו מיזוג האווויר מבוסס ברובו על יחידות קירור שורה ( ROW COOLING ) מסוג cooloop של קנור אמרסון. זהו חדר בינוני בגודלו (עומס IT של מאות קילוואט) אך מתקדם ומקצועי מאוד. האם הנזילה מקורה בתשתית מיזוג האוויר שאנו התקנו?
בעוד הצוות בדרכו לאתר, הגיעה צפירת ההרגעה. מסתבר שהמנקה החרוצה של אותו אתר, החליטה לשטוף את רצפת חדר המחשב. מי השטיפה הגיעו לאחד מחיישני המים מתחת לרצפה הצפה והפעילו את מערכת ההתראה וזו השביתה את יחידות מיזוג האוויר.
מסקנות ולקחים:
1. כניסת המנקה לחדר הייתה צריכה להיות מפוקחת. אין להכניס דלי מים לדטה סנטר. הדלי צריך להישאר מחוץ לאולם המחשב או בפנים בסמוך לדלת הכניסה. את הרצפה הצפה יש לנקות עם סמרטוט לח בלבד. על עובדי הניקיון לעבור הדרכה מתאימה ולעבוד תחת פיקוח.
2. המערכת עבדה כפי שתוכננה. אך האם הנוהל היה נכון? על מנהל חדר המחשב להחליט האם באמת יש צורך בהשבתת מערכות המיזוג כתוצאה מהתראה של חיישן אחד. לדעתנו, לא.
יש לכם סיפור טוב על לקוחים מתקלות בחדרי מחשב ? שתפו את הקהילה כתבו לי
יגאל שניידר
Best Practices – יישום תעלות כבילה מתחת לרצפה הצפה
דוגמא לגישה נכונה לתכנון וביצוע של תעלות כבילה מתחת לרצפה הצפה. גילוי נאות: זהו סרטון פרסומי של Panduit
אני מאוד אוהב יישומים כאלו כאשר מיזוג האוויר אינו תת רצפתי ואז ניתן להשתמש בנפח שמתחת לרצפה הצפה להעברת כבילה.
במקרה של החלטה על כבילה תחתית (לעומת עילית) – זוהי דוגמה יפה ליישום נכון.
10 המגמות המובילות בדטה סנטר ב 2010
מרבית חדרי המחשב נמצאים במצוקה ברמת התשתית הפיזית: בעיות מיזוג אוויר קשות, אספקת חשמל, ניהול כבילה לא מוקפד, משקל כבד ביחס ליכולת הנשיאה של הרצפה, חוסר במקום פיזי, חשבון חשמל צומח במהירות ובעיקר: הניהול נהיה מורכב יותר וקשה יותר.
כתוצאה נראה ב 2010 את 10 המגמות הללו צוברות תאוצה:
1. תוכנות ניהול ל Data Center כדוגמת תוכנת ה DC TRACK של חברת Raritan לניהול חדרי מחשב. תוכנה זו מאפשרת ניהול מקצועי של החדר וניצול מקסימאלי של התשתיות המותקנות. לדוגמא, מנהל חדר המקבל לידיו, נניח, 10 שרתים של U1 הצורכים ביחד KW5, יוכל לקבל בלחיצת כפתור את הנתון הבא: באיזה ארון שרתים בחדר יש מקום פיזי, יש שקעי נחושת פנויים, שקעי אופטיקה פנויים, קיבולת חשמל מתאימה, קיבולת מיזוג אוויר מספיק וכ'.
2. Liquid Cooling : לפני כ 5-6 שנים הצגנו את הטכנולוגיה של הקירור הממוקד לשוק הישראלי. רבים מידידנו אמנם התרשמו מהטכנולוגיה אך הטילו ספק בנחיצותה. היום אנו יכולים לומר מעבר לכל ספק שהטכנולוגיה הזו הגיעה לזרם המרכזי. יש לנו כ 400 מערכות מותקנות בישראל מתוך בערך כ 500 סה"כ.
אפשר להזכיר את חדר המחשב של תהיל"ה, חדר המחשב החדש של בנק ישראל, פרויקט מרשים של חיל הים, אינטל (ראו סרט של אינטל ביו טיוב או בפוסט הקודם), חדרי מחשב ברפאל, בחוות מחשוב עננים של טריפל סי ועוד רבים אחרים.
אך יש שני דגשים חשובים מעבר לנושא High Density . המערכות שאנו ממליצים עליהן מסוגלות לתת ביצועים מצוינים גם בטמפרטורות מים קרים של 16 ואף 18 מעלות (במקום 6 מעלות כנהוג במערכות מיזוג אוויר). כל מעלה מאפשרת חיסכון של 3%-4% בחשבון החשמל.
בנוסף חשוב לבחור במערכות מודולאריות. כאלו שמאפשרות לעלות מ 10kw ל kw 40 ללא קושי.
3. סגירת המעבר הקר: המערכות הזולות ביותר, הן אלו שאנו לא צריכים לרכוש. סגירת המעבר הקר מאפשרת שדרוג אפקטיבי של חדרי מחשב קיימים וניצול מקסימאלי של התשתיות הקיימות. מדובר בסגירה מכאנית של האוויר הקר, שדרוג תוכנה למערכות המיזוג ובמקרים מסוימים החלפת מאווררים ביחידות המיזוג. היתרונות: יכולת מיזוג האוויר אפקטיבית יותר ב 50%. כתבו לי לקבלת עותק מוקדם של whitepaper שכתבנו בנושא.
4. בקרה על צריכת האנרגיה ( PUE ) יותר ויותר ארגונים מודדים את ה PUE . יחס יעילות האנרגיה של התשתית. כדי להשתפר, עלינו לדעת היכן אנו היום.
5. Intelligent RPDU : פסי השקעים המתקדמים הם אבן בנין חשובה וחיונית בחדר המחשב המתקדם. RPDU מאפשרים איסוף מידע בזמן אמיתי של צריכת החשמל ופליטת החום של כל שרת וכל ארון, וקבלת מידע לצורך שימור שרידות ויתירות אמת.
6. ניהול הרצפה הצפה פתרונות כגון Cool Boot ו Kold LOK מונעים בריחת אוויר קר מפתחים לא מבוקרים ברצפה הצפה. מאפשר השבת קיבולת קירור "אבודה".
7. פסי צבירה ( Bus Ways ) כאשר תשתית החשמל מבוססת על כבלים, כל שינוי אורך שבועות וחודשים ומצריך תקציב של עשרות ואף מאות אלפי שקלים. שימוש בפסי צבירה מאפשר למנהלי הדטה סנטר לבצע שינויים באופן מיידי ללא צורך בתקציב נוסף. ראו פוסט קודם בנושא פסי צבירה של Starline .
8. ארונות ייעודיים למתגי תקשורת מתגי סיסקו החדשים מחייבים התייחסות מקצועית גם ברמת התשתית. ביחוד ה ,Nexus 7010, 7018. ארונות ייעודיים של Panduit תוכננו יחד עם סיסקו במיוחד למתגים אלו. היתרון: פתרון לנושא הכבילה ומיזוג האוויר.
9. מדבקות RFID מאפשרות לדעת בכל רגע נתון, בזמן אמיתי, אילו מערכות יש לנו בחדר והיכן הן בדיוק. מוכנות ל AUDIT בכל רגע נתון ואבטחת החומרה.
10. סימולציה ב CFD תוכנה הנדסית אשר מאפשרת בניית מודל טרמי של חדר המחשב והדמייה של תרחישים שונים לבדיקת תכנון מיזוג האוויר, אימות יתירות, אפקטיביות התכנון ובחירה בין אלטרנטיבות. מומלץ מאוד גם לתכנון חדר חדש וגם לתכנון שדרוג.
הצצה לחדר המחשב של אינטל ישראל
אינטל ישראל מספקת הצצה נדירה לחדר המחשב שלה. ניתן להתרשם מהסדר וההקפדה על נוהגים מתקדמים( Datacenter Best Practices ) בסרט אותו מנחה עופר ליאור , מנהל הדאטה סנטר באינטל חיפה.
אישית רוויתי נחת מהצגת ארונות High Density המבוססים על קירור מים שסופקו על ידינו, חברת אלכסנדר שניידר. מדובר בארונות Cooltherm תוצרת קנור (Knurr ) , שבהם מחליף החום נמצא בתחתית הארון ( In-Rack Cooling ) . בשל הקירור הממוקד ניתן לקרר עד KW 35 בארון ו/או לחסוך הרבה מאוד כסף בחשבון החשמל. זו המערכת היעילה ביותר ל high density הקיימת היום בשוק.
בכל ארון כזה עובדים 6 בלייד סנטרים ( 84 שרתים) . עוד חשוב לדעת שיחידות אלו צורכות מים קרים בטמפרטורה של 16 מעלות, דבר המקנה לדטה סנטר חיסכון משמעותי בחשבון החשמל וניצול מקסימאלי של יכולות הצ'ילר.
למען הסר ספק, השורות למטה הן תוספות שלי ואינן מוצגות בסרט:
למי שלא עוקב אחרי נושאים אלו ביומיום, אציין שבדרך כלל, מערכות מיזוג אוויר דורשות מים קרים בטמפרטורה של 6-7 מעלות כדי לספק קירור ברמה המתקרבת לטענות אנשי השיווק שלהם.
מערכת כגון זו שלנו, המאפשרת להגיע לקיבולת קירור מליאה ב 16 מעלות מים קרים מספקת את היתרונות הבאים
1. חיסכון של 30% חשבון החשמל לקירור ( 3% לכל מעלת צלזיוס)
2. אין בזבוז אנרגיה הנגרם מהוצאת והשבת לחות לאוויר
3. הצ'ילרים נותנים יותר קיבולת קירור בטמפרטורות מים גבוהות
תודה לאינטל שמשתפת את השוק בתובנות שפיתחה ומסייעת לתעשייה להתייעל ולחסוך באנרגיה חשמלית.
חוות מחשוב עננים של Triple C
טריפל סי חנכה חדר מחשב חדש המתוכנן, על פי המנכ"ל רמי נחום, לרמת שרידות גבוהה של Tier 4 . הסרט מספק תאור מעניין של יכולות החווה שהיא ללא ספק מהמתקדמות בארץ.
מזל טוב ל טריפל סי.
Best Practices: ארונות למתגים של CISCO
לסיסקו מספר סדרות של מתגים ביניהם סדרות ה 9513 Catalyst 6509 , MDS, ולאחרונה סדרת ה Nexus 7000.
נתבקשתי מס' פעמים בחודש האחרון להמליץ על ארון מתאים ( Switch Cabinet ) עבור ה
NEXUS 7018. ראו תמונה 1
תמונה 1: ארון Net-access של Panduit שפותח יחד עם סיסקו עבור ה NEXUS
מתגי CISCO מהווים אתגר בכל הקשור לאחסנה נאותה בארונות חדר המחשב. שני הנושאים המאתגרים ביותר הם
- ניהול החום
- ניהול הכבילה
ניהול חום: מתגי Cisco, ברובם הגדול, פולטים חום לצד ולא לאחור. בארון SWITCH מתקדם, תהיה הכוונה פסיבית של האוויר החם לאחור. ראו תמונה 2 . הכוונה מכאנית זו מאפשרת לשלב את ארונות הסיסקו עם העמדה של מעבר קר ומעבר חם כנהוג וכרצוי בחדרי מחשב.
תמונה 2
ניהול כבילה:
הכבילה המסיבית גורמת להתפרשות על מספר ארונות, אילוץ המביא לבזבוז שטח יקר ולחוסר סדר בכבילה. ארון Switch מתקדם יאפשר שימוש בארון אחד וחיסכון עצום במקום. ראו תמונות 1 ( ארון ל NEXUS ) ותמונה 3 – המראה שלושה מתגי Catalyst 9513 מחווטים למופת בארון אחד.
תמונה 3
למען גילוי נאות, קל לי להמליץ משום שאנו עובדים שנים רבות עם Panduit, החברה שפיתחה יחד עם Cisco את הארונות עבור המתגים הללו. ראו www.panduit.co.il
טמפרטורת האוויר הקר בחדרי מחשב
מרבית חדרי המחשב מבזבזים אנרגיה וכסף רב, כך אמר דילן לארסון, דירקטור של Platform technology initiatives בחברת אינטל בדיון שנערך בפורום של מחשוב עננים בהשתתפות חברות כגון יבמ, HP, קנור-אמרסון וLawrence Berkeley National Lab .
במחקר שנערך קודם לדיון ע"י אמרסון בקרב אגוד משתמשי הדטה סנטר ( DCUG ), התברר שמרבית הארגונים מקררים את חדרי המחשב יתר על המידה.
בעוד שהמלצות ASHRAE מתירות לקרר את האוויר הקר המגיע לשרתים לרמה מקסימאלית של 27 מעלות, כל הארגונים שנסקרו ( כ 70) מקררים לטמפרטורת אוויר של 21 מעלות ומטה.
זהו בזבוז, הדגיש דילן לארסן, העלאת הטמפרטורה חוסכת הרבה מאוד חשמל וכסף.
בישראל המצב אף יותר קיצוני. הסיבות לקירור יתר ולבזבוז הנובע מכך הן כדלקמן:
- חוסר מודעות של מנהלי חדרי המחשב לפוטנציאל הגדול לחיסכון בהעלאת הטמפרטורה
- הנחה מוטעית שהמחשבים יתפקדו טוב יותר בטמפרטורות קרות מאוד
- קירור בלתי ממוקד (קירור חדר) מצריך "מאבק" בנקודות חום שונות ולשם כך מקררים את כל החדר יתר על המידה
- חוסר נוחות טבעי מעבודה בקצות הטווח המותר
- ארונות High density שאינם ממוזגים באופן מקצועי וממוקד מכתיבים למעשה את מיזוג אוויר בזבזני
כתוצאה מקירור היתר הזה, על כל שקל המושקע בחשמל ל IT מושקעים עוד שקל עד שניים בתקורה שרובה הוא מיזוג אוויר ( PUE בין 2 ל 3 ) . בזבוז כבר אמרנו?
תכנון אולם מחשב לשרידות ( Tier 4 ) וליעילות בצריכת החשמל
חדר המחשב של BAIS באזור סן פרנסיסקו מספק לנו הצצה מעניינת למתרחש בארה"ב.
אולם המחשב שנחנך לאחרונה, נבנה ל MW 3 עומס IT, וברמת שרידות Tier 4 (לפי הדוברים) . שטח האתר הוא 80,000 רגל רבוע שהם בערך 7400 מ"ר.
משמעות תכנון Tier 4 הוא תכנון לזמינות של 5 תשיעיות ( 99.999% ) כלומר downtime של לא יותר מ 40 דקות בשנה.
החדר בסרט זה תוכנן לפי פעמיים N+1 . אגב, לאחרונה הוריד ה uptime institute את דרישתו לצורך tier 4 ל 2N "בלבד" מטעמי חיסכון באנרגיה.
החדר משתמש במערכות קירור של ליברט , קירור אוויר תת רצפתי וסגירת המעבר הקר. עפ"י הדוברים, סגירת המעבר הקר יעילה כלכלית פי 5 מסגירת המעבר החם. נתון מעניין.
התכנון הוא ל KW 10 לארון בממוצע. הספקים מתוכננים עד ל KW 12 לארון.
בנוסף משתמש החדר במערכות air economizer להזרמת אוויר קר מבחוץ, דרך מערכת מסננים כמובן. לדבריהם, האקלים באזורם מאפשר להם להשתמש ב free cooling כ 20% מהזמן.
PUE=1.4 (בתפוסה מלאה)
ניהול חדרי מחשב ; הנושאים המעסיקים את מנהלי חוות השרתים
פרסום של ה DataCenter User Group כפי שנמסר בועידת DataCenter Dynamics ביוהנסבורג על ידי חברת Emerson מראה את האתגרים עימם מתמודדים מנהלי חדרי המחשב ( data centers ) וכן השוואה ל שנים 2007 ו 2005
בשנת 2005, שלושת הנושאים החשובים היו:
1. צפיפות חום והספק ( heat and power densities ) ,
2. זמינות מידע ( availability )
3. מחסור בשטח רצפה.
יעילות בצריכת החשמל כלל לא הוזכרה בעשיריה הראשונה.
בשנת 2007 , הנושאים החשובים היו:
1. חום
2. הספק
3. יעילות צריכת החשמל של חדרי המחשב.
כלומר, ב 2007 יעילות צריכת החשמל נהפכה לנושא מרכזי
בשנת 2009 הנושאים החשובים היו:
1.חום ומיזוג אוויר
2. יעילות צריכת החשמל
3. ניהול חדרי המחשב, נושא אליו נתייחס בהרחבה בפוסטים הבאים.
נושא יעילות צריכת החשמל בחדרי המחשב ממשיך להיות במוקד הדאגה של מנהלי חדרי המחשב . זאת בשל המשך הגידול בצריכה בקילו-וואט שעה והעלייה במחירי האנרגיה ( צפי: 10% בשנה). כמו כן, מחסור ב CAPACITY מזרז את פרוייקטי ההתייעלות.
לחובבי ניהול כבילה בחדר המחשב
לחובבי סדר בחדר המחשב, לאוהבי ניהול כבילה מסודר, כבלים "מסורקים" , הנה אביזר לכאורה פשוט של panduit שמאפשר גם לעובדים פחות מיומנים לייצר איכות מעולה:
