DSP-suorituskyvyn raja-arvojen ymmärtäminen

Digitaaliset signaaliprosessorit (DSP) ovat erikoistuneita mikroprosessorit, jotka on suunniteltu käsittelemään reaaliaikaisia signaalinkäsittelytehtäviä.Tällaisia prosesseja ovat audiotasaus ja kuvanpuristaminen tutkasäteenmuodostukseen. Niiden suorituskykyä rajoittavat arkkitehtonisten rajoitteiden yhdistelmä (esim. moninkertaistavien yksikköjen määrä, muistinkaistanleveys, pillinlouhintasyvyys), toimintaolosuhteet (kellotaajuus, jännite, lämpötila) ja työmäärän ominaisuudet (datanopeus, algoritmin monimutkaisuus, rinnakkaisuus). Perinteiset analyysimallit tai pahimmat tapaukset eivät useinkaan pysty ottamaan huomioon nyanssivia, datasta riippuvaisia tapoja käyttää nykyaikaisia DSP:itä, erityisesti silloin kun työmäärään liittyy dynaamisia, ei-lineaarisia malleja. Koneoppiminen tarjoaa tehokkaan vaihtoehdon opittaessa näitä suhteita suoraan operatiivisesta datasta.

Avaintekijät, jotka määrittelevät DSP suorituskykyrajat

MML:n soveltamisen ensimmäinen vaihe on ymmärtää, mitkä tekijät rajoittavat suorituskykyä. Ensisijaisiin raja-arvoihin kuuluvat:

  • Toimintojen enimmäismäärä sekunnissa, rajoitettu kellonopeudella ja putkiston hyötysuhteella.
  • Muistilatenssi:[) Viivästykset johtuvat välimuistin missauksista tai ulkoisesta muistin kulusta, jotka voivat heikentää huomattavasti dataintensiivisten siementen suorituskykyä.
  • Power- ja lämpöhaulikko:[ DSP toimii usein tiukan tehobudjetin alla; ylittäessään lämpörajat pakottaa kuristamaan tai sammuttamaan.
  • Ohjetaso:[ Kyky suorittaa useita ohjeita sykliä kohti rajoittuu datariippuvuuteen ja laitteistoresursseihin.

Nämä tekijät ovat vuorovaikutuksessa monin tavoin. Esimerkiksi monin tavoin moninkertaistavia ohjeita käyttävä työmäärä voi osua voimaseinään ennen aritmeettisten yksiköiden kyllästämistä. ML-mallit voivat kuvata näitä domain-vuorovaikutuksia paljon tehokkaammin kuin suljetut yhtälöt.

Machine Learning for Prediction -ohjelman soveltaminen

Koneoppimisen lähestymistapoja DSP suorituskykyennusteeseen ovat tyypillisesti seuraavat kaksi luokkaa: valvottu regressio (ennakoidaan jatkuvaa arvoa, kuten suoritusaika tai virrankulutus) ja luokittelu (ennakoidaan, ylittääkö työmäärä kynnyksen).

Tiedonkeruu: Koulutuskorpin rakentaminen

ML-ennustusten laatu riippuu suuresti koulutustiedoista. Insinöörien on otettava telemetria todellisista DSP-laitteista tai syklin tarkkuudesta simulaattoreista. Olennaisia mittareita ovat:

  • Syklyn määrä:[ Kokonaiskellosyklit tehtävää tai ydintä kohti.
  • L1, L2, ja viime kerroksen välimuisti puuttuu.
  • Lankavirheet: [ Vaikutus putkistohuuhtelun seuraamuksiin.
  • Voiman kulutus:[ Dynaaminen ja staattinen teho, usein on-chip-tehosensorien avulla.
  • Lämpötila:[ Lämpödiodeilla mitattu juottolämpötila.
  • Työmääräkuvaukset:[ Algoritmityyppi (FIR, FFT, matriisikerrokset), tietokoko ja valuuttataso.

Tietojen olisi katettava monenlaisia toimintapisteitä. Eri taajuuksia, jännitteitä ja ympäristön lämpötiloja. Mallin yleistymisen varmistamiseksi julkiset vertailuarvot, kuten Cortex-M DSP-kirjastovertailut tai EEMBC CoreMark-Pro voivat tarjota alustavia tietoaineistoja.

Ominaisuustekniikka: Raw Telemetryn muuttaminen ennustajiksi

Raakatelemetriaa käytetään harvoin suoraan. Ominaisuudet tekniset otteet dissriminatiiviset ominaisuudet, jotka korreloivat suorituskykyraja. Yhteisiä ominaisuuksia ovat:

  • Statistiset yhteenvedot: [ Muistin kulkumallien keskiarvo, varianssi ja prosenttiluvut.
  • Taajuusalueominaisuudet:[ FFT tehojäljen tunnistaa oskillaattorin lämpökäyttäytyminen.
  • Työkuorman koostumus:[] Kertomis-kertyvyys-koostumus- ja kuormausohjeisiin.
  • Motoriset ominaisuudet:[ Viimeaikainen lämpötila tai teho (liukuikkuna).

Automatisoitua ominaisuusuutta ]a, joka on tarkoitettu automaattikoodereiden tai t-jakautunutta stokastista naapuria (t-SNE), voidaan käyttää myös Dimensiokyvyn pienentämiseen ja rakenteen säilyttämiseen.

Mallikoulutus ja validointi

Useat ML-arkkitehtuurit soveltuvat DSP-suorituskyvyn ennustamiseen:

Regressiomallit

Lähestymistapa tarjoaa perustason, mutta ei kuvaa epälineaarisia vuorovaikutussuhteita. [Randomin metsät [] tarjoavat paremman tarkkuuden yhdistämällä päätöspuita ja käsittelemällä sekalaisia tietotyyppejä. []Valovoimaisia voimakoneita[] (esim. XGBoost, LightGBM) käytetään laajalti niiden korkeaennustehoon ja lujuuteen äärimmilleen.

Hermoverkot

Suurissa, korkeaulotteisissa tietokannoissa syvän neuroverkon (DNN) avulla voidaan oppia monimutkaisia kartoituksia. Konvolutionaaliset kerrokset voivat käsitellä aika-domain-telemetriaa, kun taas toistuvat kerrokset (LSTM) ottavat aikariippuvuus. Tyypillinen arkkitehtuuri voi olla syöttökelloverkko, jossa on kolme piilotettua kerrosta (256, 128, 64 neuronia) käyttäen ReLU-aktivaatiota ja lähtöä (0,2) normalisointiin.

Validointistrategiat

Käytä k-kertainen ristivalidointi (k=5 tai 10) yleistyksen arviointiin. Metriikassa on [keskiarvo absoluuttinen virhe (MAE)[]] suoritusajan ennustamiseen ja [] tarkkuus/F1 pistemäärä[] binääriluokitukseen (turvallinen vs. raja ylitetty). Vältä yliasentamista seuraamalla validointihäviötä ja käyttämällä varhaista lopettamista.

ML:n käyttö DSP-suorituskyvyn parantamiseksi

Passiivisen ennustuksen lisäksi ML voi ajaa aktiivista optimointia. Kaksi tärkeää keinoa ovat reaaliaikainen ohjaus ja suunnittelun ajan parantaminen.

Reaaliaikaoptimointi

Kevyen ML-mallin upottaminen suoraan DSP-ohjelmistoon (tai kumppanin apuprosessoriin) mahdollistaa ajoajan mukauttamisen. Malli arvioi jatkuvasti nykyisen telemetrian perusteella ja säätää toimintaparametrejä.

Dynaaminen jännite ja taajuusskaalaus (DVFS)

Regressiomalli ennustaa virrankulutusta työmäärän ominaisuuksien perusteella voi päättää optimaalisen jännite-taajuusparin. Esimerkiksi jos malli ennustaa, että työmäärä pysyy tehobudjetissa suuremmalla taajuudella, DVFS-ohjain voi parantaa suorituskykyä. Toisaalta, jos lämpörajat ovat lähellä, se voi skaalata alas ennalta ehkäisevästi.

Työmäärä Aikataulutus ja muuttoliike

Heterogeenisissä soC-pisteissä luokittelija voi ennustaa, mikä käsittelyelementti (esim. DSP-klusteri vs. GPU) täyttää tehokkaimmin määräajat. Aikataulun mukaan ajastin siirtyy tehtäviin vastaavasti. Tätä lähestymistapaa käytetään Google-yksiköissä Tensorinkäsittelyyksiköissä[ ja mobiilijärjestelmissä kuten Qualcomm Snapdragon tehon ja suorituskyvyn tasapainottamiseksi.

Muistin Access Orkesteri

ML-mallit, jotka ennustavat välimuistin miss-malleja, voivat laukaista ennakkoohjeen tai siirtää muistin käyttöä vähentääkseen kojuja. Tutkimus [ IEEE Xplore osoittaa, että välimuistin jälkiin koulutetut hermoverkot voivat vähentää miss-lukuja jopa 25%.

Suunnitteluparannukset ML-Driven- näkyjen avulla

Koneoppiminen myös informoi arkkitehtonisia parannuksia. Analysoimalla, mikä työmäärä lähestyy rutiininomaisesti tiettyä rajaa, suunnittelijat voivat kohdistaa perimmäisen syyn.

Lämpötilojen hallinnan parannukset

Jos ML-mallit osoittavat, että tehotiheys (W/mm2) piikkejä tietyissä ohjejaksoissa, suunnittelijat voivat lisätä paikallisia lämpöantureita tai säätää lattiasuunnittelua lämmön levittämiseksi. Tapaustutkimus [arXiv]] käytti kaltevuusparannus opetustason lämpölämmössä, mikä johtaa huippulämpötilan 15 prosentin laskuun mikroarkkitehtuurin muutosten avulla.

Arkkitehtuurin tutkimus

Alkuvaiheen suunnitteluvaiheessa ML-mallit voivat ennustaa vaihtovälimuistin koon, putkiston syvyyden tai ALU:n määrän vaikutuksia. Tämä lyhentää suunnittelu-avaruuden etsintäsilmukkaa. Esimerkiksi [ACM Transactions on Architecture[] kuvaa satunnaismetsämallia, joka saavutti 90% tarkkuuden DSP-mikroarkkitehtuurikokoonpanojen rankingissa, säästää viikkoja simulaatiota.

Mukautuva kokoaminen

ML-ohjatut kääntäjät voivat valita optimoinnin liput (silmukoiden rokkaaminen, vektorisointi) perustuen ennustettuun suorituskykyyn. [MLGO-kehys (Google... Machine Learning Guided Optimisation) osoittaa, että vahvistus oppiminen voi vähentää koodin kokoa ja kestoaikaa sulautettujen DSP.

Haasteet ja parhaat käytännöt

ML:n käyttöönotto DSP-suorituskyvylle ei ole triviaalista.

  • Tiedon laatu:[ Meluiset sensorilukemat tai puuttuvat tarrat voivat hajottaa malleja. Käytä vankkaa tilastollista suodatusta ja varmista, että maatotuus synkronoidaan.
  • Mallilatenssi: kompleksinen neuroverkko voi tuoda liikaa ylitteitä reaaliaikaisiin päätöksiin. Käytä kvantitatiivisia tai tislattuja malleja (esim. TensorFlow Lite Micro), jotka toimivat <100 μs:ssa tyypillisillä DSP-laitteilla.
  • Yleistys näkymättömiin työtehtäviin:[ Synteettisiin vertailuarvoihin koulutetut mallit saattavat epäonnistua reaalimaailman datassa.
  • Konseptin liukuminen:[ Laitteiden ikääntyessä tai työmäärän kehittyessä taustalla olevat jakelumuutokset. Toteutetaan verkko-oppimista tai säännöllistä uudelleenkoulutusta.

On otettava käyttöön järjestelmällinen kehys: kerätään tietoja valvotuissa kokeissa, valitaan ominaisuus (esimerkiksi käyttämällä vastavuoroista tietoa) ja seurataan jatkuvasti ML-ennusteita laitteiston telemetriaa vastaan.

Tulevaisuuden suunnat

ML:n ja DSP:n optimointi kiihtyy.

  • Vahvistusoppiminen (RL):[ RL-agentit, jotka oppivat DVFS-käytäntöjä kokeilun ja virheen kautta, parantuvat ajan mittaan ilman selkeitä malleja.
  • Federated learning:[] distributing ML training over many DSP devices (esim., in IoT networks) samalla säilyttäen yksityisyyden.
  • Selitettävä AI (XAI):[] Käyttämällä SHAP tai LIME tulkita, mitkä ominaisuudet ajaa suorituskykyä rajoittaa ennustuksia, auttaa ihmisen suunnittelijoita.
  • Joint ML-DSP yhteissuunnittelu:[ Koulutus ML mallit, jotka samanaikaisesti optimoivat tehon, läpisyötön ja luotettavuuden ja johtavat itsesäätyviin prosessoriin.

-julkaisussa julkaistu tutkimus osoittaa, että ML voi optimoida hermoverkkokiihdyttimet ja luoda hyveellisen syklin.

Päätelmä

Koneoppiminen on kehittynyt teoreettisesta uteliaisuudesta käytännön työkaluksi DSP-suorituskyvyn rajojen ennustamiseksi ja parantamiseksi. Käyttämällä operatiivista dataa insinöörit voivat ennakoida pullonkauloja, mukauttaa järjestelmäparametreja reaaliajassa ja informoida laitteistosuunnittelupäätöksiä.Tiedonkeruusta ja ominaisuussuunnittelusta reaaliaikaiseen DVFS:ään ja arkkitehtuurin etsintään.Näin ollen etenemissuunnitelma ML:n sisällyttämiseksi DSP-kehityksen elinkaareen. Koska reunalaskenta ja tekoälyyn perustuvat sovellukset vaativat yhä tehokkaampaa signaalinkäsittelyä, ML-parannnetut DSP:t ovat yhä keskeisempiä.