Makine Öğrenme Algoritmalarını kullanarak, Iot Device Fonksiyonelity

Makine Öğrenmesinin Genişleme Rolleri IoT

Nesnelerin İnterneti (IoT) cihazları, basit veri toplayıcılarının ve uzaktan anahtarların ötesine geçti. Bugün, bu kompakt sistemler, endüstriyel titreşim sensörlerine ve akıllı tarım düğümlerine optimize etmek için her şeyde dağıtılır. Bir sonraki adım daha büyük işlemciler veya daha fazla hafızada değil, istihbaratta.Interasyonel öğrenme makinesi (ML) algoritmaları ile geliştiriciler statik, kural tabanlı cihazlar, hataları tahmin eden, enerji kullanımı için optimize edici sistemlere bağlanabilir ve akıllı bir şekilde yanıt verirler.

Gömülü IoT Landscape

Gömülü IoT cihazları, mikro kontroller (MCUs) veya düşük güç mikroişlemciler üzerinde inşa edilmiş özel amaçlı bilgisayar sistemleridir. Bunlar genellikle bilgi hakkında farklı düşünmek için sınırlı RAM (p> KB) ve CPU'lar, on ila yüz megahertz'a kadar çalışır ve çoğu batarya gücü veya enerji hasatına güvenir, her miliamperyatrlı saat boyunca değerli hale getirirler.

Makine Edge'de Neden Öğrenme?

ML algoritmaları yerel olarak gömülü bir cihazda birkaç belirleyici avantaj sunuyor. Birincisi, düşük güç geniş tabanlı ağların (LPWANs) üzerindeki verileri hassas okumalar gibi kritik uygulamalar için doğru şekilde dağıtmaya yardımcı olur. Dördüncü olarak, ağ kanallarını azaltır ve bu avantajlara sahip olan cihazlar için önemlidir.

On-Device ML için Anahtar Uygulama Alanları

Doğru Makine Öğrenme Algoritmalarını Seçin

Her ML algoritması, kısıtlı cihazlar için uygun değildir. Tipik iş akış güçlü sunucular üzerinde bir model eğitimi içerir, sonra hafızanın kilobaytlarına uymayı teşvik eder.In most popular algoritma aileleri dahil:

Karar Ağaçları ve Rastgele Ormanlar

Karar ağaçları yorumlanabilir ve inference için minimum hesaplamalı bir yük gerektirir. Yapıları motorlarda hata tespiti gibi sınıflandırma görevlerine dönüştürülür.

Destek Vector Makineleri (SVMs)

SVM'ler küçük ölçekli veri setleri için etkilidir ve doğrusal çekirdekler kullanarak kompakt modeller üretir.Inference adım, hesaplamalı olarak hafif olan SVM'ler, başarısızlık modlarından ayırt edici ve ikili sınıflandırma görevleri için yaygın olarak kullanılır.

Convolutional Neural Networks (CNNs)

CNNs, görüntü, ses ve zaman serisi analizinin işlerinden biridir. gömülü cihazlar için mimarlar derinlikli konvolutions ( MobileNetV1/V2) kullanarak parametre sayılarını büyük ölçüde azaltırlar. Pruning ve ölçümleme, 10.

Mevcut Neural Networks (RNNs) ve LSTMs

Ancak, kayıt dışı yapı 1D CNN veya Transformer tabanlı modeller gibi açıklanabilir, RNNs ve Long Short-Term Memory (LSTM) ağlar zaman zamansal bağımlılıklar yakalar. Ancak, kayıt olmayan yapı 1D CNN veya Transformer tabanlı modeller gibi daha fazla hafızaya dayalı çözümler olarak ortaya çıkabilir.

Denetimsiz Anomaly Tespitsiz için Autoencoders

Autoencoders normal sensör modellerini yeniden inşa etmeyi öğrenir. Yeni bir giriş yeniden yapılanmadan önemli ölçüde ilerlerken, bu modeller, etiketli hataların yetersiz olduğu konusunda özellikle yararlıdır.Encoder-decoder yapı MCU dağıtım için pruned ve nicelleştirebilir.

Kaynakla Kısırık Cihazları için Optimizasyon Teknikleri

Basit bir MCU'da tam bir nasyonal ağla çalışmak nadiren mümkün. Çeşitli model sıkıştırma teknikleri MinikML araçta standart haline geldi:

Ağırlık Pruning

Pruning, eğitimli bir modelden kırmızı veya düşük boyutlu ağırlığı kaldırır. Yapılanmamış pruning 50&ndash tarafından model boyutunu azaltabilir;% 90 ancak hız için özel donanım gerektirir. Yapılan pruning, tüm nöronları veya kanalları kaldırır, doğrudan performans kazanımlar sağlar.

Sayısal Sayılar

Quantization, model ağırlıklarının ve aktivasyonların sayısal hassasiyetini azaltır. 32-bit yüzen değerlerini 8bit tamsayılara dönüştürürken (INT8) hafıza ayak izinlerini 4x ile azaltır ve genellikle tam zamanlı arithmetic birimleri ile MCUs'ta hızlanır.

Bilgi Distillation

Bilgide kesinti, kompakt veldquo;student” model, CNN'in veya daha doğru veldquo'nın çıktılarını doğrudan eğitimden daha yüksek doğruluk elde etmek için eğitilmiştir; model, öğretmen versquo'yı yeniden üretmek için öğrenir; bu teknik özellikle de CNN'yi dağıtmak veya RAM'dan daha az sayıda cihazda cihazlara dönüştürmeyi öğrenir.

Model Mimari Arama (NAS)

Neural mimarlık arama, doğru boyut ve geçncy arasındaki ticaret-offları keşfeder. Edge Impulse ve TensorFlow Model Optimizasyonu Toolkit gibi Platformlar belirli MCU'lara uygun özel mimarileri üretmek için NAS yeteneklerini içerir.

Compiler-Level Optimizasyonları

Mikrokontroller ve ARM&rsquo için TensorFlow Lite gibi modeller; CMSIS-NN, ortak MCU mimarlıkları için çekirdek optimizasyonlarını uygular (ARM Cortex-M, RISC-V). Bu, kayıt dışı, inlining ve SIMD vektörelleme içerir.Bu optimize edilmiş çekirdekleri kullanarak zaman 30–% 60'ı herhangi bir model değişikliği olmadan% 60'ı uygular.

Donanımlar ve Hızlandırmalar

Birçok ML görevi, genel MCU'larda uygulanabilir olsa da, özel donanım hızlandırıcıları performans ve enerji verimliliğini çarpıcı şekilde geliştirir. Seçenekler aralığı:

Donanım seçerken, son uç kanalını göz önünde bulundurun: veri satın alma, pre-işlemleme (örneğin, ses için FFT), inference ve post-işlemleme.Inpassing gereksiz hafıza kopyalarını and using DMA for sensör data can significantly mitigateing.

Data pipeline and Sürekli Learning

ML-yerel gömülü bir cihaz sadece eğitim verileri kadar iyidir. Üretimde, veri boru hatları genellikle şunları içerir:

  1. [FONT:0)Data collection[Döndeki sensörlerden, örnekleme oranları ve ölçüm gürültüsünün dikkatli bir şekilde dikkate alınması.
  2. [FONT:0)Labeling veya yarı denetimli yaklaşımlar[Dönetici öğrenme için], hangi modelin etiketleme için belirsiz örnekleri seçtiği, çabayı azaltabileceği denetimli öğrenme için.
  3. [FONT:0]On-device veya bulut eğitimi [Dönetici: 1) İlk modelden oluşan. Çoğu TinyML iş akışı, modelden uzak durarak donmuş bir grafik dağıtır.
  4. [FONT=0)Inference Giriş ve model sürüklenme[[Dönetici:0) Zaman içinde bir modele sürüklenme (örneğin, sensör veri değişikliklerinin dağılımı (örneğin, mevsimsel etkiler veya sensör nedeniyle). yaşlanma süresiz yenidenleme, ya da yeni etiketli bir veri ile bir modele geri dönmek, doğruluk sağlar.

Yıllar boyunca alanda kalan cihazlar için, [[0Conon-device artımlı öğrenme) aktif bir araştırma alanıdır. elastik ağırlık konsolidasyonu (EWC) ve replay buffers daha önce öğrenilmiş davranışları unutmadan yeni desenlere adapte olmak için bir model sağlar.

Güvenlik ve Gizlilik Challenges

Gömülü ML yeni güvenlik vektörlerini tanıtıyor. Saldırıcılar bir cihazdan model mimarisi veya eğitim verilerini (model çalmak) veya modeli faks girişleriyle (örneğin, yanlış sınıflama için bir etiket koymaya çalışıyor olabilirler).

Bu önlemler özellikle tıbbi IoT, akıllı ev güvenliği ve inferans kararlarının yüksek hisseleri olduğu otomotiv uygulamaları için önemlidir.

Prodüksiyondaki Vaka Çalışmaları

Titreşimli Öngörücü Bakım

Endüstriyel pompalar üreticisi, 3 eksenli bir hıza sahip bir STM32L4 mikrokontrolör kullanarak bir STM32L4 mikrokontrolörler kurdular.D CNN'yi dört işletim koşullarını sınıflandırmak için eğittiler: normal, dengesizlik, faks ve kalibre etmek. Model,% 99 oranında incelendi ve 8bit'e kadar, on bir diski ölçtü.Inference her 10 saniyede bir şarj cihazı çalıştırdı, sadece 1.5 mJ'i sınıflandırmaya gönderir. Sistem, yalnızca 300.000 $ tasarruf sağlar.

Anahtar Kelime Sesi Kontrollü Giyilebilirler için Noktalama

Bir işitme cihazı, TensorFlow Lite Micro modelini anahtar kelime işaretini gerçekleştirmek için entegre etti (örneğin, “louder,” “quiet,” “ ve seslendirme;) ultra-düşük güç Cortex-M4 MCU. Sadece 24.000 parametre ile kolayca ayırt edilebilir CNN, sürekli olarak 100 μW'de çalışır.

Future Yol ve Gelişen Trendler

ML ve gömülü IoT'nin kesiştiği hızla gelişmektedir. Birkaç trend, bir sonraki akıllı kenar cihazlarının nesli şekillendirecektir:

Gömülü ML ile Başlanmak

Geliştiriciler deneye bakmak için, birkaç platform giriş için bariyeri azaltır:

Sensör olayların ikili sınıflandırması gibi basit bir denetimli öğrenme görevi ile başlayın, sonra yavaş yavaş karmaşıklığı ekleyin. Projedeki dağıtım ortamından erkenden önce, veri kalitesi genellikle gömülü alanda model mimarisi seçenekleri.

Sonuç Sonuç Sonuç Sonuç Sonuç Sonuç Sonuç Sonuç

Makine öğrenimi IoT&mdash'u barındırmak için uzak bir vizyon değildir; dikkatli bir algoritma seçimi, model sıkıştırma ve donanım-aware optimizasyonu, hatta en küçük mikro kontroller bile basit bir şekilde sabitlenebilir ve akıllı bir kenar bilgisayar hattını çalıştırabilir. Sonuç, teknolojideki her şeyi öngörülebilir bir şekilde yönlendirmek ve kullanmak için bağımsız olarak, sadece mantıkla ilgili olarak, daha güvenli ve daha akıllı bir şekilde yazılım aracı haline gelmeye devam eder.

[0] Daha fazla okuma için Dış kaynaklar: