השימוש בטנימל במכשירים מותקנים למידה מכונת מכשיר

הצמיחה האקספוננציאלית של האינטרנט של הדברים הציפו את העולם עם מיליארדי חיישנים מחוברים, עונדים, ובקרים תעשייתיים.אבל רוב המכשירים הללו נותרו "דומב" – הם אוספים נתונים גולמיים ונותנים אותו לענן לניתוח. גישה מרכזית זו מציגה נדיבות, צורכת רוחב פס, מעלה חששות פרטיות.

מפס יד המזהה את היסטריה מבלי צורך בחיבור טלפוני לחיישן חקלאי חכם שמחליט מתי להתחרח על בסיס דפוסי לחות הקרקע, TinyML משנה מה מכשירים משובצים יכולים לעשות. מאמר זה חוקר את היסודות של TinyML, היתרונות העיקריים שלו, היישומים הנוכחיים, האתגרים שהוא עומד בפניהם, ואת הדרך מרגשת קדימה על מכונת למידה.

מה זה TinyML?

TinyML, קיצור של Tiny Machine Learning, הוא תחום של מחקר והנדסה המתמקדת בהפצה של מודלים למידת מכונה על חומרה ממוקדת משאבים - בדרך כלל מיקרובקרים עם פחות מ 256 KB של RAM וכמה מגה-בתים של אחסון פלאש. בניגוד מערכות למידה מכונה מסורתיות שמסתמך על שרתי ענן עם GPUs חזקים, מודלים זעירים של ® ממונעים לרוץ באופן מקומי על מכשירים כגון ARM-xMESP, מיקרו-R.

הרעיון מתבסס על עשרות שנים של מערכות משובצות אך צבר תאוצה אמיתית סביב 2017 כאשר גוגל הוציאה TensorFlow Lite Micro, זמן ריצה המיועד במיוחד עבור מיקרובקרים.מאחר כך, מסגרות כמו Edge Impulse, CMSIS-N, ו- ONNXTime הפכו אותו לקל יותר עבור מפתחים להתאמן, דחוסים, ולהפיץ מודלים על חומרה זעירה.

מה שממבדיל את TinyML מ- AI על מכשירים יותר מוכשרים (כגון טלפונים חכמים או מחשבים בודדים כמו Raspberry Pi) הוא תקציב משאבים קיצוני.מכשיר TinyML טיפוסי פועל עם מעטפה כוח של מילימטרים או מיקרווואט, אין מערכת הפעלה או RTOS קל מאוד, ולעתים קרובות פועל על סוללות שנועדו לשנים האחרונות.

יתרונות מרכזיים של TinyML במכשירים Embedded

חוסר יכולת וסבלנות בזמן אמת

מכיוון שההקצאה מתרחשת ישירות על המכשיר, ®MiniML מבטל את העיכוב העגול של שליחת נתונים לשרת ענן.עבור יישומים הדורשים תגובה ברמה של שני שניות - כגון בקרות המופעלות קול, גורמי תחזוקה חיזויים, או סגירת בטיחות מבוססת תנועה - עיבוד מקומי זה אינו הכרחי. חיישן דיקור מבוסס מצלמה, למשל, יכול לזהות אדם ולזהיר את עצמו על ידי מיקרו-שני, בעוד ש- 50 מ"חיישן מיקרו-שני, בעודוחזקי, כל מיקרו-בקר.

פרטיות וריבונות נתונים

מדדי בריאות רגישים, הקלטות קוליות, ומוצרים דיגיטליים לעולם לא יעזבו את המכשיר. תהליכי חיישנים זעירים גולמיים נתונים באופן מקומי ורק משדרים מסקנות ברמה גבוהה (כגון "התגלוה" או "אזהרה חד משמעית") עיצוב זה תואם תקנות הגנת נתונים קפדניות כמו GDPR ו- HIPAA, והוא מקטין באופן דרמטי את השטח עבור פריצות אבטחה.

אנרגיה ותוחלת חיים

מכשירים תלויים בעננים חייבים לשמור על מכשירי הרדיו שלהם פעילים להעלות נתונים, אשר צורכים כוח משמעותי.מודלים של TinyML אופטימיזציה כדי להפעיל את ההיקף רק בכמה פעולות קילוייט, לצייר מיקרו-אמפטים במהלך compute. בשילוב עם תזמון שינה אגרסיבי, חיישן זעיר-הקשויב יכול להשיג שנים של פעולה על סוללה של תאים.

יעילות ו Scalability

הסרת הצורך בתשתיות מחשוב ענן יקרות וקישוריות גבוהה מעלה את העלות הכוללת של בעלות.מיקרובקרים עלות עטים לדולרים כל אחד, ואין עמלות ענן חוזרות נדרשות להקצאה.עבור ארגונים הפורסים עשרות אלפי מכשירים, החיסכון הם עצומים יותר, דמוקרטים זעירים מפצילים AI: צוותים עם תקציבים צנועים יכולים כעת להטמיעו אינטליגנציה למוצרים שנדרשו בעבר בחומרה יקרה.

מבצע ונאמנות

בסביבה מרוחקת או קשה - buoys, חוות השמש המדברית, מכרות תת-קרקעיות - קישוריות ענן אמינה אינה מובטחת. ⁇ ⁇ ⁇ ⁇ פועל לחלוטין ללא הפרעה, מה שהופך אותם מתאימים ליישומים קריטיים של המשימה.המערכת ממשיכה לתפקד גם אם הרשת יורדת, ומבטיחה כי החלטות רגישות לזמן (כגון סגירת מכונת רוטטציה כאשר מפעיל מתקרב) מתרחשות ללא תקלות.

יישומים אמיתיים של TinyML

בריאות ולבוש

TinyML מהפכה ניטור בריאות אישי.לבוש מכשירים כמו ה-Ambq Apollo4 מבוסס smartwatch יכול לנתח כל הזמן אותות ECG כדי לזהות זיוף טריליאלי. מודל קטן פועל על פרק היד מבצע סיווג ורק ערן למשתמש או לרופא כאשר אירוע הוא מעופל באופן דומה, מכשירי שמיעה מצוידות עם TinyML יכולים לדכא רעש רקע ולשפר את הדיבור בזמן אמת מבלי לרוקן את הסוללה האחרת, כוללים חיזוי של חיישנים ישנים, זיהוי חיישנים שאינם , זיהוי.

תחזוקה תעשייתית ובקרת איכות

גורמים מטביעים את TinyML על חיישני רטט המחוברים לאופנועים, משאבות, וחגורות משדרים.המיקרובקר לומד את החתימה הנורמלית של מכונה ודגלים אנומליות המציינות כי נגעים או חוסר איזון, כי ההפרעה מתרחשת מקומית, התראות נוצרים בתוך מילימטריים, ומאפשרות חסימה מיידית לפני כישלונות קטסטרופליים (30 מצלמות עם מיקרו-בקר) יכולות לבדוק מוצרים על גבי קו, החסרים, ללא תקלות - או תקלות - ללא קודים - ללא תקלות - ללא תקלות - או תקלות - ללא תקלות -

בתים חכמים ועוזרי קול

רמקולים חכמים מבוקרים קוליים בדרך כלל שולחים קטעי אודיו לענן לעיבוד, העלאת חששות הפרטיות. TinyML מאפשרת מילת מפתח ניתוק, כגון זיהוי "Hey Google" או "Alexa", באמצעות מודל שצורכים פחות מ -10 KB של RAM.לאחר ש מילת המפתח מזוהה, מילת ההתעוררות מאושרת באופן מקומי לפני כל מידע מועבר חיישנים סביבתיים, תרמוסטטים חכמים, גלאי תנועה יכולים גם להשתמש ב-Acc-Acc-reative for acupance, אך ורק עבור בתים פרטיים, אך ורק כדי לבצע זיהוי, אך ורקמותקפטיים, אך ורק לאחר שבירה, אך ורק לאחר שבירה, אך ורק לאחר שבירה, אך ורק לאחר שבירה, אך ורק לאחר שעדיין לא ניתן לבצע זיהוי, אך ורק לאחר שבירה, אך ורק לאחר שבירה, אך ורק לאחר שעדיין לא ניתן לאשרו כמשמעו, אך ורק לאחר שעדיין לא ניתן לזהות, אך ורק לאחר שרטון, אך ורק לאחר שהופך את זההמתיקים פרטיים.

חקלאות ו ניטור סביבתי

חיישני חקלאות לפקח על לחות הקרקע, pH, טמפרטורה ורמות תזונתיות.מודל A TinyML יכול לסווג את תנאי הקרקע ולהחליט אם השקיה נדרשת, או לחזות התפרצויות של מזיקים בהתבסס על נתונים היסטוריים שנאספו במהלך העונה הגוברת.ביישומים סביבתיים, buoys המופעלים על ידי השמש להשתמש זעיריML כדי לזהות את אלגל מזיק מצבע מים וקריאות טורחות, להעביר רק את האזהרה במקום נתונים רצופים.

קמעונאית חכמה ולוגיסטיקה

חנויות קמעונאיות משתמשות בחיישנים מדף כדי לעקוב אחר מלאי בזמן אמת באמצעות שינויים במשקל או מודולים מצלמה זעירים.מיקרובקר מזהה כאשר פריט מוסר ומעדכן את רמות המניות באופן מיידי.בלוגיה, סורקים מוצפים עם TinyML יכולים לזהות ברקודים ומד החבילה מבלי צורך בחיבור פסים גבוה לשרת, להאיץ את פעולות המחסנים.

אתגרים מגבילים את אימוץ ה-Wider

למרות הבטחתו, ® TinyML מתמודדת עם כמה מכשולים טכניים ומעשיים.

מורכבות מודל מוגבלת

זיכרון ומגבלות ציות כוח להיות קטן מאוד - לעתים קרובות פחות מ-100,000 פרמטרים. רשתות עצביות עמוקות עם שכבות רבות לא תואמות מיקרובקר טיפוסי. מהנדסים חייבים לסחור דיוק בגודל, אשר יכול להיות אסרטיבי עבור משימות כמו סיווג ברזולוציה גבוהה או הבנה טבעית מורכבת.

כלי ופיתוח Overhead

למרות מסגרות כמו TensorFlow Lite Micro ו- Edge Impulse שיפרו את זרימת העבודה, צינור הפריסה נשאר מפורש. המרת מודל מאומן בקראס או PyTorch לתוך מערך C++ מותאם אישית, המקשר את CMSIS-N kernels, ו debugging על מתכת חשופה יכול להיות זמן-consuming מהנדסים רבים מוטבעים ללא מומחיות עמוקה, ומהנדסים רבים הם לא מוכרים של מיקרו-מערכת ההפעלה.

המונחים: heterogeneity

רק בגלל מודל פועל על ARM Cortex-M4 אינו אומר שהוא ירוץ על הליבה RISC-V או על בסיס כוח נמוך Xtensa DSP. Hardware האצה תכונות - כמו הוראות SIMD או מכפילים חומרה - משתנים באופן נרחב. מפתחים לעתים קרובות צריך לכתוב קוד ברמה נמוכה עבור כל שבב יעד, אשר מגביר את עלויות הפיתוח ולהפחית את יכולת הנטומנטציה מופשטת (כמו Arms-NU- אינטגרציה) הם עדיין אינטגרציה מתקדמת.

מחסור בנתונים והתמכרות

אימון מודל מזערי דורש נתונים של חיישן מסביבת היעד.עבור תרחישים רבים קצה (למשל, זיהוי סוג מסוים של רטט מכונה), קבלת מספיק דוגמאות מתוייגות הוא יקר. יתר על כן, המודל חייב להיות חזק וריאציות במיקום חיישן, טמפרטורה סחף, הזדקנות רכיב.העברה והזדקנות נתונים סינתטי הם תחומי מחקר פעילים אבל להוסיף מורכבות צינורות.

אבטחה ועדכונים אוויריים

חלוקת מודלים של ML על מכשירים שדה יוצרת משטחים חדשים של התקפה. An ⁇ יכול לחלץ את המודל על ידי הסתברות הזיכרון או להשתמש קלטות אדמירליות כדי לגרום להתאמה. Secureחול, אחסון מודל מוצפן, ועדכונים חתומימים הם חיוניים אך להוסיף לגודל הקושחה.

כיוונים עתידיים ומגמות מתפתחות

העתיד של TinyML הוא בהיר, מונע על ידי קידום חומרה וחדשנות אלגוריתמית. מגמות מספר שווה לצפות.

AI Accelerators

Chipmakers הם להטביע רשתות עצביות זעירות מאיצים לתוך microcontrollers. לדוגמה, אתוס-U55 ואת ה-Ehos-U65 האחרונים נועדו להאיץ פעילות convolution ועומק בתוך מעטפה כוח של microוואטs. בדומה, Synaptics' Katana ו- SpotPlus של Ambiq מציע חומרה ייעודית עבור זעירה ב- השבבים אלה, המאפשרים בעבר בלתי אפשריים על מיקרו-תכליתיטרנטיבות, מה שיכול לדחוף את הגבול הקטן של קטסטרולטיבי.

למידה מעודכנת למכשירים קטנים

במקום לרכז את כל נתוני האימון בענן, למידה ממוזמנת מאפשרת לדגמים להיות מעודכנים באמצעות נתונים שנשארים על כל מכשיר. צי של חיישני חיישנים זעירים של ®MiniML יכול לשפר את המודל המשותף מבלי להעלות אי פעם קריאת חיישן גולמי.טיפוסים מוקדמים הוכחו על מקלדת חכמה ולבושות, וכספריות תקשורת מתכווץ, ® TinyML מחוסנים יכולים להפוך מעשיים עבור מיליוני מכשירים.

מחשוב נוירו-מורפי

שבבי נוירומורפי כמו Loihi 2 של אינטל או SynSense של ספקק לחקות רשתות עצביות ביולוגיות באמצעות ספייקטים במקום הפעלה רציפה.מעבדים אלה מונעים באופן טבעי, צריכת חשמל רק כאשר חישוב מתרחש. הפעלת רשתות עצביות (SNN) על חומרה עצבית יכול להשיג יעילות אנרגיה קיצונית עבור משימות כגון הכרה, עיבוד, ושילוב aomaly של חומרת המוחות זעירות תמיד יכול להשיג יעילות אנרגיה קיצונית עבור משימות כמו זיהוי, ו-מחשוב עצבי.

Machine Learning for Tiny מכשירים

כלי AutoML שמחפשים ארכיטקטורות מודל אופטימליות (NAS) מותאמים למגבלות של ®MiniML. Platforms כמו Edge Impulse ו-Google Model Search כבר משלבים חיפוש חומרה-מודע, באופן אוטומטי בוחרים את השילוב הנכון של שכבות, ביטים קוונטיים, ויחסי חליפין עבור מיקרו-בקר נתון.זה מקטין את המחסום ומזרז את הפיתוח משבועיים עד שעות.

על למידה והתאמה

כיום, רוב דגמי ה- TinyML הם סטטיים - הם מאומן בענן ולאחר מכן קפואים במכשיר.הגבול הבא הוא למידה מקוונת, שבו המודל יכול להתאים לזרמים חדשים של נתונים תוך הפעלת המיקרובקר.טכניקות כמו יערות אקראיים מצטברים, למידה מבוססת אבטיפוס, ושיטות מפרץ קל משקל נחקרות. A רטט יכול, למשל, ללמוד את התבנית הייחודית של מנוע ספציפי, במקום להסתמך על מודל גנרי מראש על מודל מחוסם על מודל.

מתחילים עם TinyML

(המהנדסים והחובבים המחפשים לצלול ל- TinyML, המערכת האקולוגית נגישה יותר ויותר.הנתיב המומלץ הוא להתחיל עם Arduino Nano 33 BLE Sense או לוח מבוסס ESP32, שניהם בנו חיישנים (מיקרופוני, Accelus) של חברת פיתוח: Eccerus HDo-Flower (OV76) ו-ApLTFlower) של דגם של ELT5:

ככל שהחומרה הופכת זולה יותר והכלים הופכים להיות יותר בוגרים, ®MiniML תהפוך בהכרח לבלוק בניין סטנדרטי עבור כל מוצר או מערכת הכוללת חישה וקבלת החלטות בקצה.ההתכנסות של סיליקון בעוצמה נמוכה, ארכיטקטורות רשת עצבית יעילה, צינורות פריסה ידידותי למשתמש פירושה כי הגל הבא של מכשירים אינטליגנטיים לא יהיה צורך בטלפון ביתי כדי להיות חכם.

TinyML אינה רק מגמה – היא שינוי יסודי כיצד אנו מטביעים אינטליגנציה לעולם הפיזי.על ידי שמירה על חישוב מקומי, פרטי וכמעט חופשי במונחים של אנרגיה, היא מעצימה את המפתחים לבניית מוצרים שהיו מדע בדיוני רק לפני עשור.השאלה היחידה שנותרה היא לא אם TinyML יהיה ubiquitous, אלא כמה מהר אנחנו יכולים להתגבר על שאר השרידים הטכניים כדי להפוך את זה כך.