Predict 및 향상된 Dsp Processor 성능 제한을 기계 학습을 사용하는 방법

DSP 성능 한계를 이해하십시오

디지털 신호 처리 프로세서 (DSP)는 오디오 동등화 및 이미지 압축에서 라다르 빔 형성에 실시간 신호 처리 작업을 처리하도록 설계된 특수 마이크로 프로세서입니다. 그들의 성능은 건축 제약 (예 : 다중 축적 단위, 메모리 대역폭, 파이프 깊이), 운영 조건 (시 주파수, 전압, 온도) 및 워크로드 특성 (데이터 속도, 알고리즘 복잡성, 평행)의 조합에 의해 경계됩니다. 전통적인 분석 모델 또는 최악의 데이터 ‐ 데이터 손실에 의해 직접적으로 데이터를 수집하는 것은 현대의 행동에 의해 직접적으로 영향을받을 수 있습니다. 이러한 데이터는 특히 현대의 데이터 손실에 의해 직접적으로 영향을 미칠 수 있습니다.

DSP 성능 경계를 정의하는 주요 요인

제약 성능이 ML 적용에 첫 번째 단계임을 이해하십시오. 기본 제한은 다음과 같습니다.

Throughput: 시계 속도와 파이프라인 효율에 의해 초당 최대 작업 수.
Memory latency: data‐intensive 커널에 대한 심각하게 저급 성능을 할 수있는 캐시 미스트 또는 외부 메모리 액세스로 인한 Stalls.
전력 및 열 헤드룸:] DSP는 종종 엄격한 전력 예산에서 작동; 열 한계를 초과하는 힘 throttling 또는 폐쇄.
Instruction ‐level Parallelism:] 사이클 당 여러 지시를 실행하는 능력은 데이터 의존성 및 하드웨어 리소스에 의해 제약됩니다.

이 요인은 복잡한 방법으로 상호 작용합니다. 예를 들어, 많은 평행한 곱을 사용하여 작업 부하는 arithmetic 단위를 포화하기 전에 전원 벽을 명중할 수 있습니다. ML 모델은 폐쇄형식 방정식보다 훨씬 효과적으로 교차 닷메 상호 작용을 캡처 할 수 있습니다.

사전 사전의 기계 학습 적용

DSP 성능 예측에 대한 기계 학습은 일반적으로 두 가지 범주로 떨어졌다 : 감독 회귀 (실행 시간 또는 전력 소비와 같은 지속적인 가치를 예측) 및 분류 (작업 부하가 임계값을 초과하는지 예측). 핵심 워크플로우는 데이터 수집, 기능 엔지니어링, 모델 선택 및 검증을 포함합니다.

Data Collection: 교육 Corpus 구축

ML 예측의 품질은 훈련 데이터에 크게 의존합니다. 엔지니어는 실제 DSP 하드웨어 또는 사이클 ‐accurate 시뮬레이터에서 원격 측정을 캡처해야합니다. Essential 메트릭은 다음과 같습니다.

Cycle count: 작업 또는 커널당 총 시계주기.
Cache misses: L1, L2, 그리고 마지막 ‐ 레벨 캐시 미스트.
Branch mispredictions: 파이프라인의 충격 플러시 펜탈리티.
전력 소비:동전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전전
Temperature: 열 다이오드에 의해 측정되는 접합 온도.
Workload descriptors: Algorithm type (FIR, FFT, matrix multiplication), 데이터 크기 및 통화 수준.

Data는 모델의 일반화를 보장하기 위해 다양한 운영 지점(different frequencies, Voltages, 그리고 주변 온도를 다루어야 합니다. ]Cortex‐M DSP library benchmarks 또는 ]EEMBC Core‐MarkPro]와 같은 공공 벤치 마크는 초기 데이터 세트를 제공할 수 있습니다.

특징 공학: Predictors로 원료 전도 측정

Raw telemetry는 거의 직접 사용됩니다. 성능 제한으로 구성되는 특징 엔지니어링 추출물 차별성 특성. 일반적인 특징은 다음과 같습니다.

Statistical summaries: 뜻, 차이, 그리고 메모리 액세스 패턴의 %iles.
Frequency 도메인 기능: oscillatory 열 동작을 식별하는 파워 트래커의 FFT.
Workload 구성: Multiply-의 비율은 load/store 지시에 축적.
Temporal features: 온도 또는 힘의 최근 역사 (슬롯 창).

autoencoders 또는 t‐Distributed Stochastic Neighbor Embedding(t‐SNE)를 사용하여 차원을 줄이기 위해 사용할 수 있습니다.

모델 교육 및 검증

몇몇 ML 건축술은 DSP 성과 예측을 위해 적당합니다:

회귀 모델

라인레터은 기본이지만 비선형 상호 작용을 캡처하지 못한다. Random forests]는 ensembling 결정 나무와 혼합 된 데이터 유형의 처리에 의해 더 나은 정확도를 제공합니다. [[FLTlier:4]]Gradient boosting machine (e.g., XGBoost, LightGBMives)는 힘과 힘으로 널리 쓰입니다.

Neural 네트워크

대형 고차원 데이터셋을 위해, 심중 신경망(DNNs)은 복잡한 매핑을 배울 수 있습니다. 복잡한 레이어는 재발동층(LSTM)을 사용하여 시간별 통신을 처리할 수 있으며, 임시적 의존성을 캡처합니다. 일반적인 아키텍처는 ReLU 활성화 및 드롭아웃(0.2)을 사용하여 3개의 숨겨진 레이어(256, 128, 64 neurons)를 사용하여 Feedforward 네트워크가 될 수 있습니다.

검증 전략

]k-fold cross-validation] (k=5 또는 10) 일반화 평가. 미터는 mean 절대 오류 (MAE)]] 실행 시간 예측 및 ]accuracy/F1 score 바이너리 분류에 대한 를 포함합니다. 제한이 초과됨). 초기 모니터링 및 중지를 통해 손실이 발생하지 않도록 방지하십시오.

ML을 사용하여 DSP 성능 향상

수동 예측을 넘어 ML은 활성 최적화를 구동 할 수 있습니다. 두 가지 주요 장점은 실시간 제어 및 설계 ‐ 시간 개선입니다.

실시간 최적화

DSP 펌웨어 (또는 동반자 공동 프로세서)로 경량 ML 모델을 직접 구현하면 런타임 적응을 가능하게합니다. 모델은 현재 원격 측정을 기반으로 헤드룸을 지속적으로 추정하고 운영 매개 변수를 조정합니다.

동적 전압 및 주파수 확장 (DVFS)

회귀 모델 예측 전력 소비 주어진 작업 부하 특성은 최적의 전압 주파수 쌍을 결정할 수 있습니다. 예를 들어, 모델이 작업 부하가 높은 주파수에서 전력 예산 내에서 유지 될 것으로 예측하면 DVFS 컨트롤러는 성능을 높일 수 있습니다. 열 제한이 가까이 있으면 대기 시간의 열 혈류를 낮추는 것이 일반적으로 예측할 수 있습니다.

Workload 스케줄링 및 마이그레이션

이진수 SoCs에서는, classifier는 구성 요소(예: DSP 클러스터 vs. GPU)를 처리하는 것을 예측할 수 있습니다. 스케줄러는 가장 효율적으로 작업을 진행합니다. 스케줄러는 그 결과 Google의 Tensor Processing Units와 Qualcomm Snapdragon과 같은 모바일 SoCs는 전력과 성능을 균형 잡히기 위해 사용됩니다.

메모리 액세스 관현관

캐시 미트 패턴을 예측하는 ML 모델은 사전 표를 유발하는 지침이나 재스케일 메모리 액세스를 유발할 수 있습니다. IEEE Xplore의 연구는 캐시 추적에 훈련 된 신경 네트워크가 최대 25%까지 놓을 수 있다는 것을 보여줍니다.

ML‐Driven Insights를 통한 디자인 개선

기계 학습은 건축 향상을 알립니다. 일상적으로 특정한 한계에 접근하는 것을 분석함으로써 디자이너는 뿌리 원인을 표할 수 있습니다.

열 관리 향상

ML 모델이 특정 명령 순서의 밑에 힘 조밀도 (W/mm2) 스파이크가, 디자이너는 국부적으로 열 감지기를 추가하거나 열을 퍼뜨기 위하여 floorplanning를 조정할 수 있는 경우에. arXiv]에서 사례 학문은 microarchitectural 수정을 통해 최고 온도에 있는 15% 감소를 지도하는 지시 수준 열 핫스팟을 식별하기 위하여 기온을 밀어넣기 사용된 gradient 밀어넣습니다.

건축 탐험

초기 설계 단계에서 ML 모델은 캐시 크기, 파이프라인 깊이, 또는 ALU의 수를 변경하는 성능 영향을 예측할 수 있습니다. 이 단축은 디자인 ‐ 공간 탐험 루프를 단축합니다. 예를 들어, ACM Transactions on Architecture는 DSP 미세스케이트 구성에서 90 % 정확도를 달성한 임의의 포레스트 모델에 대해 시뮬레이션의 주를 저장합니다.

Adaptive 편집

ML‐guided 컴파일러는 예측된 성능에 따라 최적화된 플래그(loop unrolling, 벡터화)를 선택할 수 있습니다. MLGO Framework(Google’s Machine Learning Guided Optimization)는 보강 학습이 코드 크기와 임베디드 DSP를 위한 런타임을 줄일 수 있다는 것을 보여줍니다.

도전과 모범 사례

DSP 성능에 대한 ML 배포는 비 트리 바이알입니다. 일반적인 pitfalls는 다음과 같습니다.

데이터 품질: 노이즈 센서 읽기 또는 누락된 라벨은 모델에 따라 분류할 수 있습니다. 강력한 통계 필터링을 사용하며 지상 진실을 동기화합니다.
Model latency: 복잡한 신경 네트워크는 실시간 결정에 대해 너무 많은 오버 헤드를 소개할 수 있습니다. 일반적으로 DSP에 <100 μs에서 실행되는 TensorFlow Lite Micro) 또는 증류된 모델을 사용하십시오.
일반화는 언젠가 로드:모델은 합성 벤치마크에 훈련된 실제 데이터에 실패할 수 있습니다. 훈련 설정에서 다양한 작업 부하(voice, video, radar)를 포함합니다.
무선을 제외하고: 하드웨어 나이 또는 워크로드가 진화함에 따라, 하향적인 배포가 변화합니다. 온라인 학습이나 주기적 재훈련을 실시합니다.

체계적인 기구를 채택하십시오: 통제되는 실험의 밑에 자료를 모으고, 특징 선택 (예를들면 상호 정보 사용)를 실행하고, 실제적인 하드웨어 telemetry에 대하여 ML 예측을 지속적으로 감시합니다.

미래 지향

ML 및 DSP 최적화의 융합은 가속입니다. Emerging 추세는 다음과 같습니다.

Reinforcement Learning (RL): 시험 및 오류를 통해 DVFS 정책을 배우고, 명시되지 않은 모델없이 시간 개선.
Federated Learning: 다양한 DSP 장치(예: IoT 네트워크)에서 ML 교육 배포
Explainable AI (XAI): SHAP 또는 LIME을 사용하여 드라이브 성능 제한 예측, 인간의 디자이너를 유도하는 기능을 해석합니다.
Joint ML‐DSP co‐design: 동시에 전력, 처리량, 신뢰성을 최적화하는 ML 모델, 자체 조정 프로세서에 선두.

Nature Electronics]에 게재된 연구는 신경 네트워크 가속기 자체가 ML에 의해 최적화 될 수 있음을 보여줍니다.