כיצד להשתמש Machine Learning כדי לחזות ולשפר את גבולות ביצועי Dsp
הבנת גבולות ביצועי DSP
מעבדי אותות דיגיטליים (DSPs) הם מיקרומעבדים מיוחדים שנועדו להתמודד עם משימות עיבוד אותות בזמן אמת - מקבצי אודיו ודחיסת תמונה למדמ"ם beamforming. הביצועים שלהם הוא מחויב על ידי שילוב של מגבלות אדריכליות (למשל, מספר יחידות מרובות קידוד כפול, רוחב פס זיכרון, עומק צינורות צינורות הפעלה (שעון, מתח, טמפרטורה), ומאפיינים מסורתיים (נתונים, מורכבות, דינמית) , תכונות למידה חזקות במיוחד, תכונות למידה דינמית, תכונות למידה דינמית.
מפתחי DSP Performance Boundaries
הבנה של אילו גורמים מגבילים את הביצועים היא הצעד הראשון ביישום ML.המגבלות העיקריות כוללות:
- (ב) ,0.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10.10
- (ב) ,0) ,הלב המזכר: 1FLT:1 , סטיות שנגרמו על ידי מטמון או גישה לזיכרון חיצוני, אשר יכול לפגוע בביצועים חמורים עבור הקרנלים העוצמתיים של נתונים.
- (ב) ⁇ :0) כוח וחדר ראש תרמי: ⁇ 1:1 פעמים רבות לפעול תחת תקציבי חשמל קפדניים; מעל מגבלות תרמיות כוחות מתפרקים או נסגרים.
- (FLT:0) מקבילות ברמה של הוראה:FIRLT:1) היכולת לבצע מספר הוראות לכל מחזור מוגבלת על ידי תלות בנתונים ומשאבים חומרה.
גורמים אלה אינטראקציה בדרכים מורכבות.לדוגמה, עומס עבודה המשתמש בהוראות רבות במקביל רבות מקבילות עלולות לפגוע בקיר כוח לפני שמודלי קידוד ML יכולים ללכוד את האינטראקציות בין אלה בין-דומיין הרבה יותר יעיל מאשר משוואות חד-פורסמויות סגורות.
יישום Machine Learning for Prediction
גישות למידת מכונות לחיזוי ביצועי DSP נופלות בדרך כלל לשתי קטגוריות: תוקפנות מבוקרת (ההנחה ערך מתמשך כגון זמן ביצוע או צריכת חשמל) וסיווג (הרמז אם עומס עבודה יעלה על סף). זרימת העבודה הליבה כוללת איסוף נתונים, הנדסה תכונה, בחירת מודל ואימות.
איסוף נתונים: בניית קורפוס האימונים
איכות תחזיות ML תלויה במידה רבה בנתונים של הכשרת מהנדסים, על מנת ללכוד טלמטרי מחומרה DSP אמיתית או סימולטורים של מחזור-מחזור.מדדים חיוניים כוללים:
- (ב) ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇
- (ב) ויקרא י"א: ויקרא י"ד: ויקרא י"א: ויקרא י"ד, ו"ו' ויקרא י"ד , ויקרא י"ד, ו"ח, ו"ח, ו"ח, ויקרא י"ד .
- (ב) ,0) , פקדים: ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇
- צריכת חשמל:0 (איור 1: 1) כוח דינמי ו סטטי, לעתים קרובות באמצעות חיישני כוח על שבב.
- (ב) ויקרא י"א: ויקרא י"ד): "התחילה" (בראשית כ"ד, כ"ד).
- (FLT:0) עובדים על תיאורים: 1FLT:1 Algorithm type (FIR, FFT, matrix multiplication), גודל נתונים ורמת concurrency.
נתונים צריכים לכסות מגוון רחב של נקודות הפעלה - תדרים, מתחים וטמפרטורות ממושכות - כדי להבטיח את המודל כללי.
הנדסה: Transforming Raw Telemetry into Predictors
רול טלמטרי משמש לעתים רחוקות ישירות.תכונות הנדסה תכונות דיספליות המתואמים עם גבולות ביצועים.תכונות נפוצות כוללות:
- (ב) ⁇ :0) סטואטיסטים: משמעות הדבר של LT:1, שחלות ואחוזות של דפוסי גישה לזיכרון.
- (ב) ,0) תכונות דומיין של שקיפות: FLT:1 FFT של מעקבי חשמל כדי לזהות התנהגות תרמית אווסצילטורי.
- (ב) ,0) ,עבדו: ⁇ 1:1 , ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇
- (ב) ,0) תכונות טמפל: 1 (ההיסטוריה האחרונה של טמפרטורה או כוח (חלון ריצוף).
מיצוי תכונה אוטומטית באמצעות מיצוי:0 (autoencodersveFLT:1) או (FLT:2t-Distributed Stochastic Neighbor Embedding (t-SNE)FLT 3: ניתן גם להשתמש בו כדי להפחית את המימד תוך שמירה על המבנה.
מודל אימון ואימות
מספר ארכיטקטורות ML מתאימות לחיזוי ביצועי DSP:
מודלים של Regression
(ב) ,0) , ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇
רשתות
עבור נתונים גדולים, גבוהים, רשתות עצביות עמוקות (DNNs) יכול ללמוד מיפוי מורכב. שכבות מהפכתיות יכול לעבד טלמטרי זמן, בעוד שכבות חוזרות (LSTM) ללכוד תלות זמני.אדריכלות טיפוסית עשויה להיות רשת להאכיל קדימה עם שלוש שכבות מוסתרות (256, 128, 64 נוירונים) באמצעות הפעלה מחדש וירידה (0.2 עבור סדירה.
אסטרטגיות אימות
(ב) (ב) ,0) , ⁇ (=5 או 10) כדי להעריך את הכללה. metrics כוללים FLT:2mean מוחלט שגיאה (MAE)FLT 3: 3 עבור חיזוי זמן ביצוע ו-FLT:4accuracy / F1 ציוןFLT:5 עבור סיווג בינארי (בטוח לעומת הגבלת יתר).
שימוש ב-ML כדי לשפר את ביצועי ה-DSP
מעבר לחיזוי פסיבי, ML יכול להניע אופטימיזציה פעילה.שני שדרות עיקריות הן שליטה בזמן אמת ושיפור זמן עיצוב.
אופטימיזציה בזמן אמת
הטמעת מודל ML קל משקל ישירות לתוך קושחה DSP (או עמית לעבודה מעבד) מאפשר הסתגלות במשרה רצופה.מודל מעריך באופן קבוע חדר ראש בהתבסס על טלגרף נוכחי ומתאים פרמטרים תפעוליים.
דינמי וולט ותדירות Scaling (DVFS)
מודל רגרסיה הנבאת צריכת חשמל שניתנה תכונות עומס עבודה יכול להחליט את זוג המתח האופטימלי- ⁇ מתח.לדוגמה, אם המודל צופה כי עומס עבודה יישאר בתוך תקציב הכוח בתדירות גבוהה יותר, בקר DVFS יכול להגביר את הביצועים. , אם גבולות תרמיים קרוב, זה יכול לדרג מראש - הפחתה של התכת חום כי כואב.
עבודה עומס שידול והגירה
ב- Heterogeneous SoCs, מתווך יכול לחזות איזה אלמנט עיבוד (למשל, אשכול DSP לעומת GPU) יפגוש מועדים ביעילות רבה יותר.הלוח הזמנים יעביר משימות בהתאם.גישה זו משמשת ב-Google'sFLT:0 â € ¢ עיבוד עיבוד יחידות עיבוד עיבוד עיבוד עיבוד של 1 ו-Mobiles כגון Qualcomm Snapdra כדי לבצע את האיזון ואת האיזון.
זיכרון Access Orchestration
מודלים של ML המצפים דפוסים של שרוולים עלולים לגרום להנחיות טרום-אפילקט או גישה לזיכרון ניתוק להפחתה של דוכנים. מחקר מ-FLT:0IEEE XploreFLT:1 מראה כי רשתות עצביות מאומן על עקבות מטמון יכולות להפחית את הריבית עד 25%.
שיפורים בעיצוב באמצעות תובנות ML-Driven
למידת מכונה גם מודיעה שיפורים אדריכליים.על ידי ניתוח אשר עומסי עבודה באופן שגרתי ניגשים למגבלה מסוימת, מעצבים יכולים לכוון את שורש הסיבה.
שיפור ניהולי
אם מודלים של ML חושפים כי צפיפות כוח (W / mm2) ספייק תחת רצף הוראה מסוים, מעצבים יכולים להוסיף חיישנים תרמיים מקומיים או להתאים את הרצפה מתוכנן להתפשט חום. A מקרה מחקר מ FLT:0XivFLT:1 השתמש ⁇ כדי לזהות נקודות חמות ברמה גבוהה תרמית, המוביל לירידה של 15% בטמפרטורה באמצעות שינויים מיקרו-אסטרטגיים.
חקר אדריכלות
בשלבים מוקדמים של עיצוב, מודלים של ML יכולים לחזות את ההשפעה של שינוי גודל של כאב, עומק צינורות או מספר של ALUs. זה מקצר את הלולאה של חקר החלל עיצוב-מרחב.לדוגמה, FLT:0ACM עסקאות על אדריכלות: 1LT מתאר מודל אקראי-לכאורה השיג דיוק בדירוג תצורה מיקרו-ארכיטקטורה, שמירה על סימולציה של שבועות.
עקבו אחרי
ML-Moderderators יכול לבחור דגלי אופטימיזציה (אל תולעת, וקטוריזציה) המבוססים על ביצועים חזופים.ה-FLT:0MLGOveFLT:1 מסגרת (האופטימיזציה של Google Machine Learning Guidedation) מוכיחה כי למידה חיזוקית יכולה להפחית את גודל הקוד ולרוץ עבור DSPs משובצים.
אתגרים ועיסוקים טובים
מינוף ML עבור ביצועי DSP הוא לא-trivial. Common מלכודות כוללים:
- איכות הנתונים:0 (איור 1:1) Noisy חיישן קורא או תוויות חסרות יכול לדגום מודלים. השתמש מסנן סטטיסטי חזק להבטיח את האמת הקרקע הוא מסונכרן.
- <חזק>Model latency:חזק> רשת עצבית מורכבת עשויה להציג יותר מדי עבור החלטות בזמן אמת. השתמש במודלים קוונטיים או מזוקקים (למשל, TensorFlow Lite Micro) אשר לרוץ <100 מיקרונים על DSP טיפוסי.
- (FLT:0) הכללה לעומסי עבודה בלתי נראים: אנדרל 1 (מודלים שהוכשרו על סמך מבחנים סינתטיים עשויים להיכשל בנתונים של עולם אמת.
- (ב) סחף:0) ,קבלה: 1 כפי שגיל החומרה או עומסי העבודה מתפתחים, שינויים בחלוקת הבסיס.
אימוץ מסגרת שיטתית: איסוף נתונים תחת ניסויים מבוקרים, לבצע בחירה תכונה (למשל, באמצעות מידע הדדי), והמשך מעקב אחר תחזיות ML נגד חומרת חומרה בפועל.
כיוונים עתידיים
ההתכנסות של אופטימיזציה של ML ו- DSP היא מאיצה.
- (ה-HD) למידה של כוח-הכוח (RL): סוכני RL 1 (RL) הלומדים את מדיניות DVFS באמצעות ניסוי וטעייה, שיפור לאורך זמן ללא מודלים מפורשים.
- (הופנה מהדף LT:0) למידה מוגברת: 1FLT 1 דיסטריוט ML על פני מכשירי DSP רבים (למשל, ברשתות IoT) תוך שמירה על פרטיות.
- (FLT:0)Explainable AI (XAI): ההרחבה הראשונה של השימוש ב- SHAP או LIME כדי לפרש אילו תכונות מניעות מגבילות את התחזיות, סיוע למעצבים אנושיים.
- (FLT:0) ג'וינט ML-DSP עיצוב משותף:03FLT) 1 מודלים ל-ML אשר בו זמנית לייעל את הכוח, באמצעות חישוב ואמינות, המוביל למעבדים אוטונומיים.
מחקר שפורסם ב-FLT:0 (Naturecio ElectronicsFLT:1) מראה כי מאיצים ברשת עצבית יכולים להיות ממוטבים על ידי ML, יצירת מחזור רוטט.
מסקנה
למידת מכונות התבגרה מסקרנות תיאורטית ככלי מעשי לחיזוי ושיפור גבולות ביצועי DSP. על ידי מינוף נתונים תפעוליים, מהנדסים יכולים לצפות צווארי בקבוק, להתאים את הפרמטרים של המערכת בזמן אמת, ולעדכן החלטות עיצוב חומרה.הטכניקות המתוארות - מאוסף נתונים והנדסת תכונה ועד אמת- DVFS וחיפוש אדריכלות - לספק מפת דרכים לשילוב ML לתוך חיי הפיתוח של DSP, כמו גם יישומי עיבוד יעיל יותר ויותר.