ההתקדמות הבלתי פוסקת של מחשוב תמיד הוגדרה על ידי היכולת לעבד יותר נתונים, מהר יותר, ועם יעילות רבה יותר.במשך עשורים, זה נועד לרכז כוח עקבי במרכזי נתונים מסיביים, שבו מיקרו-מעבדים תזמורתו את העולם הדיגיטלי.עם זאת, הפיצוץ של מכשירים מחוברים, ניתוח בזמן אמת, ואינטליגנציה מלאכותית היא rewriting thatstra. a new Class ofסיליקון - AI - הוא מתפתח כדי לטפל בעומסי AI ישירות על ידי צוות נתונים מאובטח, במקום זאת, במקום זאת, במקום זאת, תוך כדי שהוא מספק גישה אוטומטית, תוך כדי שיפור מערכת אבטחה, במקום זאת, אינטליגנציה מלאכותית, במקום זאת, במקום זאת, במקום זאת, הוא מספק את מערכת יחסים מתקדמת של אינטליגנציה מלאכותית, במקום זאת, במקום זאת, הוא מספק את רמת אינטליגנציה מלאכותית, במקום זאת, תוך כדי שיפור של אינטליגנציה מלאכותית, במקום זאת, במקום זאת, במקום זאת, במקום זאת, הוא מספק גישה חדשה של אינטליגנציה מלאכותית, במקום זאת, במקום זאת, במקום זאת, במקום זאת, מאפשר למיקרו-עצמית מערכת יחסים מתקדמת של אינטליגנציה מלאכותית, היא מספקת של אינטליגנציה מלאכותית, במקום זאת, במקום זאת, במקום זאת, במקום זאת, היא מספקת של אינטליגנציה מלאכותית, היא מספקת של אינטליגנציה מלאכותית, היא מספקת של אינטליגנציה מלאכותית, היא מספקת של אינטליגנציה מלאכותית, היא מספקת של

הבנת מיקרו-מעבדים: הקרן של מחשוב מודרני

בלב כל מחשב, מהסמארטפון בכיס ועד לחי השרתים המקיפים את שירותי הענן, שוכן המעגל המשולב הזה – המכיל לעתים קרובות מיליארדי טרנזיסטורים על שבב יחיד של סיליקון – משמרות כיחידת העיבוד המרכזית (CPU) הוא מביא הוראות מזיכרון, מפענח אותם, ומוציא לפועל את הפעולות הקידודיות או ההגיון הדרושות.

האבולוציה של מיקרו-מעבדים תוארה על ידי חוק מור: מספר העסקאות הטרנסיסטסטיות על שבב מכפיל בערך כל שנתיים, מה שמוביל לעלייה אקספוננציאלית בביצועים והפחתה בעלות עלות לטרטור.המדף חסר רחמים זה אפשר את העלייה של מחשוב אישי, האינטרנט, ואת המהפכה הניידת.

עם זאת, הדרישות של אינטליגנציה מלאכותית – במיוחד למידה עמוקה – נניח צוואר בקבוק קריטי. CPUs מסורתי אופטימיזציה עבור משימות שקיפות נמוכה ולוגיקה מורכבת של הסתה מלאכותית, לעומת זאת, דורש ריבוי מטריקס מקביל מסיבי ו convolutions. בעוד CPUs יכול לבצע משימות אלה, הארכיטקטורה שלהם היא פחות יעילה מאשר חומרה.

עלייתו של צוק AI Chips

שבבים של צוק AI מייצגים עזיבה בסיסית מהמודל המרכזי של מחשוב ענן. במקום לשלוח את כל נתוני החיישן לשרת רחוק לעיבוד, מעבדים מיוחדים אלה מבצעים משימות הקצאה מלאכותית באופן מקומי, ב"החדש" של הרשת - בדיוק היכן הנתונים מקורם.זה יכול להיות בתוך מצלמה מעקב, רובוט תעשייתי, רכב אוטונומי, או מכשיר לביש.

הרעיון של מחשוב קצה קיים כבר שנים, אבל המתווך הוא ההגעה של שבבים חזקים ויעילים באנרגיה המיועד במיוחד עבור רשת עצבית ההיקף. ניסיונות מוקדמים להשתמש מיקרובקרים קונבנציונליים או מעבדים למטרות כלליות, אבל הם לא היו את צפיפות המיומנות הנדרשת עבור מודלים מורכבים.Newer Edge שבבים AI משלבים יחידות עיבוד עצביות ייעודיות (NPUs), ליבות, או מערך סינתי אשר מאיץ לעתים קרובות את החיישנים של למידה עמוקה (SoCC) לתוך מערכת למידה משותפת, כלומר, כלומר, כלומר, תכנות זיכרון, מערכת אבטחה, שילוב של טכניקות מורכבות.

סוגי אדג'טים AI

הנוף שבב קצה AI הוא מגוון, עם ארכיטקטורות שונות אופטימיזציה עבור עומסי עבודה שונים, תקציבי חשמל, ומטרות עלות.הבנת סוגים אלה היא חיונית עבור אדריכלים מרכז נתונים אשר צריך לשלב נקודות קצה לתוך תשתית רחבה יותר.

  • (FLT:0) אינטגרטיבי Integrated Circles (ASICs): LT:1 ; השבבים האלה בנויים באופן מותאם אישית למשימה אחת, כגון הפעלת רשת עצבית מסוימת.הם מציעים את הביצועים הגבוהים ביותר עבור וואט אבל חסר גמישות.
  • (FLT:0)Field-Programmable Gate Arrays (FPGAs): FPGAs: FPGAP יכול להיות reconfiged לאחר הייצור, מה שהופך אותם מתאימים למודלים AI מתפתחים. הם משמשים בתרחישים שבהם יש צורך בעקביות נמוכה וצריכת חשמל מתונה, כגון מסחר גבוה או עיבוד וידאו בזמן אמת.
  • (FLT:0Graphics עיבוד יחידות (GPUs): FLT 1 בעוד בשימוש מסורתי להכנת גרפיקה, GPUs הפכו להיות עבודת ההנעה עבור AI הכשרה. Smaller, כוח נמוך יותר GPU (כמו סדרת Jetson של NVIDIA) הם גם פרוסים בקצה ההיקף של הקצינה.הם מציעים ביצועים טובים אבל לצרוך יותר כוח מאשר ייעוד NPUs.
  • (FLT:0) יחידות עיבוד של NPUs (NPUs): 1 אינטגרציה לעתים קרובות לתוך SoCs גדול יותר, NPUs הם מאיצים ייעודיים עבור פעילות רשת עצבית. שבבים חכמים מודרניים רבים (Qualcomm Snapdragon, Apple A-series) כוללים NPUs, והם נמצאים יותר ויותר בשרתים ושערי IoT.
  • (FLT:0RISC-V מבוסס מעבדים:BuildFLT:1) אדריכלות הקוד הפתוח RISC-V מאפשרת לחברות לעצב את מאיצים AI הקצה שלהם מותאם לצרכים ספציפיים, הימנעות מדמי רישוי ומאפשר התאמה עמוקה.

היתרונות העיקריים של אדג'טים AI

אימוץ שבבים AI קצה מונע על ידי מספר יתרונות משכנעים, במיוחד כאשר משולבים אדריכלות מרכז נתונים התומכים מחשוב מבוזר.

  • (FLT:0) שפע של לוט:FLT:1 בעיבוד נתונים מקומית, שבבים AI קצה להפחית את זמני הקצוץ ממאות שניות למיקרו-שניות בלבד.זה קריטי ליישומים כמו נהיגה אוטונומית, בקרה תעשייתית וניתוח וידאו בזמן אמת שבו עיכובים יכולים להוביל לכשל או לסיכון בטיחות.
  • יעילות:0(Bandwidth יעילות:FLT:1 Transmitting קטעי וידאו גולמיים או נתונים חיישן גבוה לענן צורכת רוחב פס עצום. Edge AI צ'יפס יכול לדחוס, לסנן ולנתח נתונים לפני שליחת מידע רלוונטי בלבד (למשל, התראות או metadata) למרכז הנתונים, לחסוך משאבים ברשת ועלויות אחסון בענן.
  • (FLT:0) פרטיות ואבטחה: מידע רגיש 1 (Senstive Data) כגון תמונות פנים, רשומות רפואיות או הקלטות קוליות - ניתן לעבד באופן מקומי מבלי לעזוב את המכשיר.זה מקטין את החשיפה ליירוט או לפרוץ במהלך שידור והתאמה עם תקנות כגון GDPR Edge שבבים גם להפחית את פני השטח על ידי הגבלת ההסתמכות על שרתים מרוחקים.
  • (FLT:0) חסכון אנרגטי: מעבדים למטרות כלליות צורכים כוח משמעותי עבור עומסי עבודה של AI. Edge שבבים אופטימיזציה לדפוסים המתמטיים של רשתות עצביות, השגת ביצועים גבוהים בהרבה עבור וואט.זה חיוני עבור מכשירים מופעלים סוללות וגם מקטין את העלות התפעולית של תשתיות קצה.
  • (FLT:0) תפעול רשמי: FLT:1 אדג 'יפס מאפשר פונקציונליות חכמה גם כאשר קישוריות לאינטרנט היא לסירוגין או לא זמין.זה חיוני עבור אתרים תעשייתיים מרחוק, ספינות, מטוסים, פריסות IoT באזורים מוחלפים.

השפעה על פעולות מרכז נתונים

בעוד שבבים קצה AI פרוסים ברשת היקפית, השפעתם משתרעת עמוק לתוך מרכז הנתונים עצמו.מודל המסורתי של מרכזי מרכזיזציה כל עיבוד במספר מתקנים מסיביים נותן דרך אדריכלות מבוזרת שבו מרכזי נתונים פועלים כמרכזי תיאום, בעוד שקצה נודים להתמודד עם דחיסה רגישה לזמן.שינוי זה יש השלכות עמוקות על מרכז נתונים, ניהול, סוגי עומסי עבודה הם תומכים.

אדריכלות מחשוב מבוזרת

בעידן המודרני של IoT או פריסת עיר חכמה, שבבי AI הנמצאים במצלמות, בחיישנים ובשערים.הם מבצעים עיבוד נתונים ראשוני, כגון זיהוי אובייקטים או זיהוי אנומלי.רק תוצאות מצטברות או מקרים מעורפלים נשלחים למרכז הנתונים לניתוח נוסף או עיבוד מודל.זה יוצר מודל מחשוב היררכי זמני: קצה שרת מחשוב מקומי (לעתים קרובות מרכז נתונים מיקרו-Data) אזורי מרכז נתונים של ענן יש לו יכולת עיבוד נמוכה ביותר.

מרכזי נתונים חייבים עכשיו לתמוך בתזמורת של אלה מופצות נודות. Containerization ו- Orchestration פלטפורמות (כמו Kubernetes) מורחבים לניהול מכשירים קצה.תשתית Networking חייבת להתאים זרימת נתונים משתנה מאוד - רוחב פס גבוה במהלך עדכוני מודל, רוחב פס נמוך יותר עבור תוצאות הקצאה רגילה. מחסניות תוכנה במרכז נתונים צריכים להתמודד עם מודל, עדכוני קושחה מאובטחים עבור שבבים, ושילוב עם שירותי ענן קיימים.

אנרגיה ועלויות כפלות

אחת ההשפעות המשמעותיות ביותר היא על צריכת אנרגיה.מרכזי נתונים ידועים לשמצה, וחלק גדול של אנרגיה זו משמש להעביר נתונים מסביב - מאחסון ועד compute, ובין שרתים. על ידי עיבוד נתונים בקצה, כמות הכוללת של נתונים שיש להעביר למרכז הנתונים מופחתת באופן דרסטי.זה מוריד את כוח הציוד לרשת, מקטין את הצורך עבור קירור בקיבולת גבוהה, ויכול להאריך את החיים המרכזיים של החומרה.

שבבים של AI הם יעילים מאוד.לדוגמה, שבב קצה טיפוסי יכול לצרוך רק 1-5 וואט תוך ביצוע עשרות טריליון פעולות לשנייה (TOPS) לעומת זאת, GPU ברמת השרת יכול לצרוך 300 וואט עבור דומה באמצעות חישוב.על פריסה גדולה של אלפי נקודות קצה, חיסכון אנרגיה מצטבר הם משמעותיים.

שימוש במקרים חדשים במרכזי נתונים

שבבי שבבים של צוק AI אינם רק למכשירים חיצוניים של IoT; הם גם משולבים בתוך תשתיות מרכז נתונים כדי להתאים את הפעולות.

  • (FLT:0) קירור אינטיגנטי: 10.10.1 חיישנים ומצלמות מצוידות ב- AI קצה יכול לפקח על חלוקת טמפרטורה, לזהות כתמים חמים, ולנבא את צרכי הקירור מבלי לשלוח את כל הנתונים לבקר מרכזי.
  • (FLT:0) זיהוי אנומליות בשרתים:FLT:1 נמוך כוח שבבים AI על לוחות האם השרתים יכולים לפקח על מדדי ביצועים או דפוסי שימוש בכוח כדי לזהות רכיבים כושלים לפני שהם גורמים החוצה.
  • (FLT:0) סודיות ושליטה בגישה: הכרה פנים 1FLT) או קריאה בכניסות מרכז נתונים ניתן לעבד מקומית על שבבים AI קצה, תוך מחיקת הצורך להסתמך על קישוריות בענן עבור אימות.
  • (FLT:0) ניתוח וידאו עבור ניטור:FLT:1 במקום הזרמת כל מצלמות מעקב להאכיל למרכז NVR (רשומות וידאו באינטרנט), קצה AI השבבים יכול לנתח להאכיל בזמן אמת, רק אירועים רלוונטיים.

אתגרים ושיקולים

למרות ההבטחה, שילוב שבבים AI קצה לתוך מערכות אקולוגיות מרכז נתונים אינו ללא מכשולים. אתגרים אלה יש לטפל באימוץ נרחב.

דיסיפוציה חמה וקונסטרינטים פיזיים

מכשירים Edge לעתים קרובות פרוסים בסביבות קשות - דלתות, בקומות במפעל, או בכלי רכב - שבו קירור מוגבל. בעוד שבבים קצה AI נועדו להיות יעיל, ביצועים גבוהים עדיין לייצר חום. ניהול תרמית באמצעות קירור פסיבי, כיור חום, או אפילו מעריצים פעילים מוסיף מורכבות ועלות. בשרתים מרכז נתונים (כמו מרכזי נתונים), צפיפות של AI Edges accelerators יכול ליצור מקומות חמים כי הם דורשים זרימת אוויר חם.

אבטחה ב- Edge

מכשירים צוק נחשפים פיזית, מה שהופך אותם פגיעים להתקפות, להתקפות ערוץ צדדי, או עדכוני קושחה זדוניים.מבטיחים את השלמות של מודלים של AI ואת סודיות הנתונים על שבבים AI קצה דורש שורש חומרה של אמון, ⁇ מאובטח, ותקשורת מוצפנת חזרה למרכז הנתונים.ניהול אבטחה על פני אלפי צמתים הוא נטל תפעולי נתונים משמעותיים כי צוותי מרכז נתונים חייבים לתכנן.

שילוב עם קיימות תשתיות

מרכזי נתונים רבים להפעיל מחסניות תוכנה מורשת המיועדות לעיבוד מרכזי.Refitting קצה AI שבבים לתוך זרימות עבודה לעתים קרובות דורשות כתיבת יישומים לפצל בין קצה לענן, פריסת microservices ממוכל, וליישם פרוטוקולים חדשים ברשת כמו MQTT או WebRTC.השבר של פלטפורמות חומרה (אדריכלות שבבים אחרים, SDKs, פורמטים מודל) מוסיף מורכבות נוספת.

ניהול מודלים ועדכונים

מודלים של AI פרוסים על שבבים קצה הם לא סטטי.הם צריכים הכשרה תקופתית עם נתונים חדשים, כלומר מרכז הנתונים חייב להתזזזות מאובטח, יעיל מודל עדכונים לאלפים של נקודות קצה.Over-the-air (OTA) עדכונים דורשים גרסה זהירה, יכולות רולבק ומינימום זמן למטה - במיוחד עבור מערכות קריטיות בטיחות כמו כלי רכב אוטונומיים.מרכז הנתונים הופך למרכז מרכזי לניהול מודלים, הטלת אתגרים הנדסיים חדשים.

תחזית עתיד

המסלול עבור קצה שבבים AI ברור: ביצועים נוספים, כוח נמוך יותר ושילוב הדוק יותר עם מערכות מרכז נתונים.כמה מגמות טכנולוגיות להאיץ את ההתקדמות הזו.

אדריכלות צ'יפלט ו- Advanced Packaging

כמו עיצוב שבב מונוליטי הופך יקר יותר וקשה לייצור, שבבים - קטן, מודולרי מת כי הם נאספים חבילה גדולה יותר - offer a Path קדימה. Edge AI שבבים יכול לשלב שבב CPU עם שבבים CPU עם AI מיוחד מאיץ AI, שבבים זיכרון, ו I / O שבבים בחבילה אחת.זה מאפשר ארכיטקטים במרכז נתונים להתאים אישית יכולות עיבוד עבור תרחישים שונים ללא תיקון שבבים מתקדמים, כמו סוללות שבבים מתקדמים.

טכנולוגיה רעש

ממצאים מובילים (TSMC, סמסונג, אינטל) דוחפים ל-3nm ו- 2nm nodes, אשר יארז עוד יותר טרנזיסטורים לתוך שבבים AI קצה.זה מאפשר מודלים גדולים יותר של רשתות עצביות לרוץ באופן מקומי. בשילוב עם חידושים כמו שער-כל (GAA) טרנזיסיסטורים וגיבוי כוח, שבבים עתידיים AI יציע שיפורים משמעותיים תוך שמירה על תקציבים הדוקים.

In-Memory and Near-Memory Computing

צוואר הבקבוק של פון נוימן - העיכוב בהעברת נתונים בין זיכרון למעבד - הוא ניקוז גדול על אנרגיה ומהירות. עיצובי שבב AI חדשים קצה משלבים ארכיטקטורות (CIM) אדריכלות, שבו פעולות רשת עצביות מבוצעות ישירות בתוך מערך זיכרון (למשל, SRAM או התנגדות RAM). זה מפחית באופן דרמטי נתונים, המוביל הזמנות של שיפורים בקנה מידה של יעילות אנרגיה עבור טכנולוגיות כאלה הם כנראה אבטיפוס בתוך כמה שנים.

שילוב עם 5G ומעבר

הגלגל של רשתות 5G הוא מושלם להשלים כדי קצה AI. נמוך-latency, חיבורים גבוה פסנד 5G מאפשר למכשירים קצה לטעון עיבוד מורכב לשרתי קצה סמוכים (או אפילו פיצול ההיקף על פני המכשיר והקצה) צוק AI בתחנות בסיס ותאים קטנים יכולים לבצע אופטימיזציה רשת בזמן אמת, תחזוקה חיזויית, ודירוג תוכן מקומי.

דגש מוגבר על תוכנה ו-Open Ecosystems

הצלחת שבבי AI קצה תלויה לא רק בחומרה, אלא גם במערכת אקולוגית תוכנה עשירה.חברות כמו FLT:0 (QualcommofFLT:1 פיתחו מנועי AI ו- SDKs. פרויקט קוד פתוח:2ONNX RuntimesFLT 3 מאפשר מודלים לרוץ על פני חומרה שונה.

מסקנה

[היחסים בין מיקרו-מעבדים ו- AI השבבים אינם אחד ממהנדסי ההחלפה אלא של השותפות.CPUs מסורתיים נשארים את הצורות התכליתיות של מרכזי נתונים, טיפול בתזמורת, אחסון ולוגיקה עסקית מורכבת. Edge AI, עם האדריכלות המיוחדת שלהם וצריכת חשמל נמוכה, לוקחים על גבי מערכת מידע ספציפית, קידוד של מערכות אבטחה גבוהה יותר של מערכות אבטחה של מערכות אבטחה ו-DVFID: