השפעת מיקרופורסורים מאופטימיים על ידי אי.איי על יעילות מרכז הנתונים

השינוי לקראת חומרה מיוחדת במרכזי נתונים מודרניים

מרכזי נתונים כבר זמן רב עמוד השדרה של תשתיות דיגיטליות, אבל הצמיחה האקספוננציאלית של עומסי עבודה מלאכותיים היא לכפות חשיבה יסודית של איך מתקנים אלה נבנות ומופעלים. יחידות עיבוד מרכזיות מסורתיות (CPUs), בעוד שגופני, מעולם לא נועדו להתמודד עם חישובים מקבילים הנדרשים על ידי מודלים של למידת מכונה, אימון רשת עצבי, ותזמון אמיתי בהופעתם של מיקרו-מעבדים AI-אופטימיים מייצגים שינוי, אשר מאפשר לתהליכים מהירים יותר, מעבר למעבדים אנרגיה, כלומר, פחות, יותר, מעבר למעבדים מהירים יותר, יכולות מהירות יותר, ורמת מידע, ומהירות גבוהה יותר, ומהירות גבוהה יותר, ומהירות גבוהה יותר, ומהירות גבוהה יותר, ומהירות גבוהה יותר, ומהירות גבוהה יותר, ומהירות גבוהה יותר, והיקף נתונים, ומהירות גבוהה יותר, ומהירות גבוהה יותר, ומהירות גבוהה יותר, ומהירות גבוהה יותר, ומהירות גבוהה יותר, ומהירות גבוהה יותר, ומהירות גבוהה יותר, והיקף זמן אמתית, והיקף זמן אמתית, והיקף זמן אמתית, והיקף זמן אמתית, והיקף.

שבבים מיוחדים אלה בנויים במטרה להאיץ את הפעולות המתמטיות במרכז הבינה המלאכותית.על ידי הסרת משימות אינטנסיביות של CPUs למטרות כלליות, ארגונים יכולים להשיג שיפורים דרמטיים בתפוקה ויעילות.על פי דו"ח של ה-FLT:0 סוכנות האנרגיה הבינלאומית לאנרגיה הבינלאומית ליברFLT:1, מרכזי נתונים כבר מהווים כ-1% מכלל שימוש בחשמל גלובלי, ועומסי עבודה של AI גדלים מהר יותר מכל מגזר אחר.

הבנה של מיקרו-מעבדים AI-Optimized

מיקרומעבדים AI-optimized הם Semiconductors כי משלבים ארכיטקטורות מיוחדות כדי להאיץ את למידת המכונה, למידה עמוקה וניתוח נתונים.בניגוד CPUs למטרות כלליות, אשר מסתמכים על עיבוד הוראה ניתוק, השבבים האלה מעסיקים מקבילות מסיבית, ממשקי זיכרון גבוהה בפסווי גבוה, ויחידות compute ייעודיות כגון Tenor ליבות, מערךים סינתיים, ומעבדים אלה מאפשרים להם לבצע תכונות ל-מסטרטיביות ומהירות עצבית ומהירות גבוהה של .

הבדלים ארכיטקטוניים

ההבדל הבסיסי הוא כיצד חישובים מבוצעים. A CPU יכול להיות 8 עד 64 ליבות אופטימיזציה עבור ביצועים חד-פעמיים נמוך לקריאה אחת. לעומת זאת, מאיץ AI כגון GPU יכול להכיל אלפי ליבות קטנות המיועדות לעיבוד מקביל גבוה של לוח זמנים. לדוגמה, H100s של NVIDIA כולל 18432AUD ו-640 זיהוי משמעותי של מקבילות.

מרכיב קריטי נוסף הוא רוחב פס זיכרון. AI מודלים לעתים קרובות דורשים העברת כמויות עצומות של נתונים בין זיכרון ויחידות compute. מעבדים מיוחדים לשלב זיכרון גבוה פסוויד (HBM) ערימה ישירות על חבילת השבבים, צמצום הגמישות וצריכת החשמל בהשוואה לזיכרון DDR המסורתי. AMD's MI300, למשל, תכונות עד 192 GB של HB3 עם רוחב פס רוחב פס מעל 2.5 / טרה.

סוגים של מעבדים AI-Optimized

• (FLT:0Graphics עיבוד יחידות (GPUs): FLT 1 במקור מיועד לגרפיקה, GPUs הפכו להיות העורקים של אימון AI והפרעה בשל המקבילות מסיבי שלהם. NVIDIA שולט במרחב הזה עם A100 ו- H100, בעוד AMD מציעה את קו Instinct.
• (FLT:0) יחידות עיבוד (TPUs): 1:1 מותאם אישית של גוגל ASICs הם אופטימיזציה במיוחד עבור TensorFlow ומסגרות אחרות של Google AI.כל PU יכול לספק מעל 100 מאובנים של ביצועים עבור אימון.
• (FLT:0) יחידות עיבוד של NPUs): 1 שנמצאו בטלפונים חכמים מודרניים רבים ומכשירי קצה, NPUs הם מאיצים קלים עבור משימות הקצאות.
• (FLT:0)Field-Programmable Gate Arrays (FPGAs): מיפוי 1 אלה השבויים הניתנים להגדרה מחדש מאפשרים למשתמשים להתאים אישית את ההיגיון החומרי עבור עומסי עבודה ספציפיים של AI. Microsoft משתמשת ב-FPGAs בתשתיות הענן של Azure שלה כדי להאיץ את החיפוש של Bing ו- Azure Machine Learning.
• יחידות עיבוד נתונים (DPUs): ההרחבה 1 (למרות לא רק מאיצים AI, DPUs מחברות כמו NVIDIA (כחול) ו- Intel מרחיבה את יכולות עיבוד AI ישירות על נתיב הנתונים, הסרת רשתות ומשימות אחסון ושחרור מרכזי CPU עבור עומסי עבודה AI.

יתרונות למרכז הנתונים

היתרונות של פריסת מיקרו-מעבדים AI-optimized מרחיבים הרבה מעבר למהירות הגלם. מפעילי מרכז נתונים נמצאים תחת לחץ מתמיד להגדיל את צפיפות הניקוד תוך צמצום צריכת החשמל ועלויות הקירור.

מהירות עיבוד מהירה ומהירות דרך חישוב

שבבים AI יכולים לבצע את אותו חישוב באמצעות פחות מחזורי שעון מאשר CPU. עבור אימון מודל כמו GPT-4, הכולל טריליון פרמטרים, ההבדל נמדד בחודשים לעומת שבועות או אפילו ימים. אי-השוויון - תהליך של שימוש במודל מאומן כדי לבצע תחזיות - benefits בדומה. H100 GPU יחיד יכול לשרת אלפי בקשות הקצנות לשנייה, בעוד CPU גבוה עשוי לטפל רק שבריר שירות גבוה יותר עבור משתמשים.

אנרגיה וקיימות

צריכת חשמל היא אחת ההוצאות התפעוליות הגדולות ביותר במרכז נתונים.מעבדים AI-optimized להשיג ביצועים גבוהים יותר עבור וואט מאשר CPUs. מחקר על ידי FLT:0NVIDIAIRLT:1 מראה כי החלפת CPU מבוסס AI TER עם האצה GPU יכול להפחית צריכת אנרגיה עבור עומס עבודה נתון עד 80%.

בנוסף לחיסכון ישיר בכוח, חומרה מיוחדת מפחיתה את המספר הכולל של שרתים הדרושים כדי להתמודד עם משימות AI. שרתי מעטים יותר מתכוונים פחות שטח, דרישות קירור נמוכות יותר, ולהפחית פסולת אלקטרונית.חלק ממרכזי נתונים הם אפילו לחקור פתרונות קירור נוזליים שתוכננו במיוחד עבור אשכולות AI בעלי שקיפות גבוהה, שיפור יעילות נוספת.

סקאביה להגדלת המודלים של AI

הגודל והמורכבות של מודלים של AI ממשיכים להגדיל באופן אקספוננציאלי.מודלים של שפה-של-ארט מכילים כיום מאות מיליארדי פרמטרים, ומודלים רב-ממדיים המשלבים טקסט, תמונה ווידאו נמצאים באופק.מעבדים למטרות כלליות אינם יכולים לעמוד בדרישות אלה ללא עלויות בלתי מתקבלות על הדעת ומרחב פיזי.

חיסכון בעלויות לאורך מחזור החיים הכולל

בעוד שבבים AI-optimized לשאת עלות גבוהה יותר, העלות הכוללת של בעלות (TCO) לעתים קרובות מוכיחה נמוך יותר. עיבוד מהיר יותר מפחית את הזמן הנדרש עבור אימון מודל, אשר ישירות חותך חשבונות מחשוב ענן.יעילות אנרגיה טובה יותר מורידה את עלויות השירות החודשי.בנוסף, כי השבבים האלה מטפלים יותר עבודה לשרת, ארגונים יכולים להפחית את השרת שלהם, לחסוך על רכש, תחזוקה, ומתקן.

השפעה על פעולות מרכז נתונים

שילוב של מיקרו-מעבדים AI-optimized הופך לא רק את שכבת החומרה, אלא גם כיצד מרכזי נתונים מנוהלים, מגניבים ומאובטחים.אפקטי הקרוע נוגעים בכל היבט של פעולות.

ניהול עומס עבודה ו-Allocation

עומסי עבודה של בינה מלאכותית הם ידועים לשמצה לא סדירים.משרות הכשרה יכולות לרוץ במשך ימים או שבועות, צריכת כל מחזור זמין, בעוד שעומסי עבודה הניתנים מציגים ספייקטים בלתי צפויים בביקוש.מעבדים מיוחדים, בשילוב עם תוכנת תזמורת אינטליגנטית, מאפשרים למרכזי נתונים להקצות באופן דינמי משאבים.לדוגמה, מרכז נתונים המפעיל את שירותי האינטרנט מבוססי CPU ו- AI מבוססי GPU- AI ב- AI ב-CEPA יכול להשתמש בתשתיות מוגדרות להפעלה מוגדרת כדי לבצע שינוי בזמן אמתי בין מקומות עבודה, ללא סיבוכים אמיתיים.

מעבדי AI מודרניים כוללים גם תמיכה ברמת חומרה עבור וירטואליזציה ורב-עוצמה. NVIDIA של Multi-Instance GPU (MIG) טכנולוגיה מאפשרת GPU פיזי אחד להיות מחולק עד שבעה מקרים בודדים, כל אחד עם זיכרון ייעודי שלה ומשאבים compute.זה מאפשר למשתמשים מרובים או יישומים לשתף אחד עם אבטחה חזקה וביצועים, שיפור היעילות הכוללת.

Cooling and thermal Management

שבבים AI בעוצמה גבוהה לייצר חום משמעותי. H100 GPU יחיד יכול לצייר 700 וואט, וrack מלא בהם יכול לייצר מעל 40 קילוואט של עומס תרמי אוויר מסורתי קירור מגיע במהירות לגבולות שלה בסביבות כאלה מרכזי נתונים יותר ויותר לאמץ קירור ישיר אל שבב נוזל, קירור סיבולת, וחילופי חום אחוריים כדי לשמור על טמפרטורות הפעלה בטוחות.

אחריות ושעות נוספות

משרות אימון בינה מלאכותית יכולות לרוץ במשך חודשים, וכישלון חומרה יחיד יכול לעלות ימים של התקדמות אבודה. מעבדים AI-אופטימיים כוללים לעתים קרובות תכונות לשיפור האמינות, כגון זיכרון תיקון שגיאות (ECC) זיכרון, כושר ריצוף ברמה גבוהה, ניטור בריאות חיזוי.בנוסף, יצרני השבבים מתכננים זמן רב יותר בין כישלונות (MT). בשילוב עם מחסומים ומודל מקבילה, מרכזי נתונים יכולים להשיג ללא תפקוד לקוי.

אבטחה והגנה על נתונים

כמו AI עומסים יותר ויותר להתמודד עם נתונים רגישים - רשומות רפואיות, עסקאות פיננסיות, מידע אישי - אבטחה הופכת קריטית. הרבה מאיצים AI כוללים כיום עיגוןים מבוססי חומרה, ⁇ מאובטחים, והצפנה זיכרון.לדוגמה, פתרונות מחשוב חסויים של NVIDIA מאפשרים נתונים מוצפנים להישאר מוגנים גם בעת עיבוד על ידי GPU.זה מאפשר מרכזי נתונים להציע שירותים AI רב-גנטיים וציות לציית תקנות HIP כמו HIP.

אתגרים ושיקולים

למרות היתרונות שלהם, מיקרו-מעבדים AI-optimized אינם מפעילי מרכז נתונים הלבלב צריכים לנווט מספר אתגרים בעת אימוץ השבבים האלה.

השקעות הון

חלוקת מאיצים AI האחרונים דורשת הון גבוה גדול. a one top-tier GPU יכול לעלות $ 30,000 או יותר, ו אשכול מלא יכול לרוץ לתוך מיליונים. עבור ספקי קולוק וארגונים קטנים יותר, זה יכול להיות אסרטיבי. עם זאת, ספקי ענן מציעים גישה שבבים אלה על בסיס שימוש בשכר, מזרז את הצורך עבור השקעה ישירה.

תוכנת Ecosystem Fragment

כל פלטפורמה מעבד מגיע עם ערימה התוכנה שלה (CUDA עבור NVIDIA, ROCm עבור AMD, TensorFlow עבור TPU, OpenCL עבור FPGAs) פורטה מודלים בינה מלאכותית בין פלטפורמות יכול להיות זמן-consuming ועשוי לדרוש מומחיות מיוחדת.התעשייה נעה לכיוון מסגרות סטנדרטיות כמו ONNX ו- PyTorch, אבל יכולת הדדית מלאה נשארת עבודה בהתקדמות.

Power and Cooling Infrastructure - שדרוגים

עם עלייה בחומרה AI גבוהה לעתים קרובות דורש שינויים מתקנים. . Power הפצה, גנרטורים גיבוי ומערכות קירור חייב להיות בגודל עבור הרבה יותר עומסים גבוהים יותר.החזרה של מרכזי נתונים קיימים יכול להיות משבש ויקר.בניה חדשה חייבת לתכנן עבור דגניות של 50 קילוואט לצרף או יותר, שהוא עזיבה של 5-10 קילוואט סטנדרטי עבור rack טיפוסי של פריסות מבוססות CPU.

שרשרת אספקה Constraints

המחסור המוליכים למחצה העולמי הדגיש את הפגיעות של הסתמכות על שבבים מיוחדים. מאיצים AI דורשים תהליכי ייצור מתקדמים (5nm, 3nm), אשר הם מוגבלים. Geoפוליטי מתחים יכול להשפיע גם על היצע מרכזי נתונים חייבים לנהל בקפידה מלאי לשקול הבדלי קשר בין ספקים.

תחזית עתיד

האבולוציה של מיקרו-מעבדים AI-אופטימיים אינה מראה סימנים להאטה. מגמות מספריות יעצבו את הדור הבא של יעילות מרכז הנתונים.

אדריכלות חדשה של Chip Architects and Materialss

מחקר בטכנולוגיות מעבר ל-Silicon, כגון מחשוב פוטוני, שבבי נוירו-מורפי, ו- קוונטים מאיצים, מבטיח אפילו ביצועים גדולים יותר ויעילות אנרגיה.חברות כמו אינטל ו- IBM חוקרות ארכיטקטורות המשלבות מספר רב של מת (CPU, GPU, AI Accelerator, זיכרון) לתוך חבילה אחת באמצעות חיבור מתקדם (למשל, UCIe).

שילוב עם Edge וענן

שבבים עם AI-optimized אינם מוגבלים למרכזי נתונים מרכזיים.צוק מרכזי נתונים בשרתים על-ידי הצבת NPUs ו GPUים קטנים לרוץ בהקצאה מקומית.זה מקטין את הגמישות ואת דרישות רוחב הפס.תתת תזמורת ללא ים בין מכשירים קצה, מרכזי נתונים אזוריים, ומרכזי ענן מרכזיים יהפכו לפוטנציאל ליבה, עם מעבדים מיוחדים בכל שכבה.

אחריות כעקרון עיצוב

שני מעצבי השבבים והמפעילים במרכז הנתונים הם עדיפות לקיימות.מעבדים עתידיים עשויים לכלול אפילו ניהול כוח אגרסיבי יותר, שימוש בחומרים ממוחזרים, ועיצובים המתאימים לכלכלה מעגלית. מרכזי נתונים המופעלים לחלוטין על ידי אנרגיה מתחדשת ומוקרים על ידי מערכות שאינן מבוססות מים יהפכו לנורמה, עם שבבים AI-אופטימיים משחקים תפקיד מרכזי בהפחתת טביעת הרגל של compute.

תוכנה-Hardware Co-Optimization

הקו בין חומרה ותוכנה הוא מטושטש.חברות מתפתחות צירים וזמני ריצה שממפה באופן אוטומטי עומסי AI לחומרה היעילה ביותר הזמינים, ללא קשר לספק.זה יפחית את המחסום לאמץ שבבים מיוחדים ויאפשר למרכזי נתונים לערבב ולתאימם את מאיצים ללא כוונון ידני מורכב.העלייה של תוכניות קוד פתוח (כמו RISC-V) ולפתוח מאיץ (כמו דמוקרטים) יפתח גישה נוספת.

מסקנה

מיקרו-מעבדים AI-אופטימיים כבר עיצבו מחדש את כלכלת מרכז הנתונים, המאפשרים מהירות יותר, יעילה יותר באנרגיה, ופעולות AI מדרגיות יותר.מספקי ענן להתקני אחסון ארגוניים, אימוץ חומרה מיוחדת כבר אינו אופציונלי אך חיוני להישאר תחרותיים. בעוד אתגרים סביב עלות, תוכנה, תשתיות נשאר, נקודות ארוכות טווח לקראת שבבים חזקים ויעילים יותר לתוך מרכזי נתונים חכמים יותר.