Modern süperscalar CPU sistemleri, saatte birden fazla talimat kullanarak yüksek aktarım sağlar, ancak bu performans güç tüketiminde önemli bir maliyetle gelir. Enerji verimliliği, mobil cihazlardan hiper ölçekli veri merkezlerine kadar her şeyde birincil endişe olur, güç farkında zamanlaması kritik bir tasarım stratejisi olarak ortaya çıktı.

Superscalar Architecture ve Power Beauty'nin temelleri

Güç-aware zamanlamasını anlamak için, her aşama dinamik güç kullanır (önlendirmek için temel olarak), dinamik bir güç (eskiden) ve statik güç (önemli) sabit ve dinamik tasarım özelliği, her iki güç bileşeni ile sabit kuvvetlendirmek için sürekli olarak çalışır. Örneğin, her aşama, dört süperscalar çekirdeği, bir kuvvet değiştirme birimleri, kayıt işlemleri ve komutları, tüm dinamik güç sabitleri ile sabit kuvvetlendirmek için sürekli olarak dinamik bir şekilde genişletir.

Power-aware scheduling doğrudan eğitim seviyesi paralellik (ILP) ile güç bütçesini yönetmek ve yönetmek arasındaki ticarete karşı hedefler. Bu tür planlama olmadan, bir işlemci ısıtımı (TDP) sınırlarına ulaşabilir, bu yüzden throttling'a yol açabilir.

Power-Aware Scheduling için Core Techniques for Power-Aware Scheduling

Dinamik gerilim ve Frekans Scaling (DVFS)

DVFS en yaygın olarak kabul edilen güç yönetimi tekniğidir. Operasyonel gerilim ve frekansı azaltırken, işlemci bir gerilim-fret gücü tasarruflarına (birçok önbellekli sürümler sırasında, frekans veri toplama süresi düşük performans kaybı ile birlikte). DVFS genellikle iş yüküyle birleştirilir, hesaplama sırasında, zamanlama cihazı kullanımı, örneğin, modern şarj edilebilir bir şekilde, modern şarj edilebilir.Influet ile birlikte, düşük performans kaybı ile hıza ulaşır.

Saatler ve Güç Gating

Saat gating, kullanılan işlevsel birimlere saat sinyalini devre dışı bırakır, bu bloklarda dinamik gücü ortadan kaldırır ve sabit bir şekilde devre dışı bırakmak için saat gating'ı kasıtlı olarak terk edebilir. Örneğin, zamanlamacı penceredeki birkaç yüzüncü noktası görürse, sert zamanlı işlemleri yüzüstün basamaklı devre dışı bırakmalı ve tam anlamıyla "tarafsız" olarak karar vermeleri için saatlerini tahmin edebilir.

Öğretim Throttling ve Issue Genişlik Control

Süperscalar işlemcisinde, konu aşaması rezervasyon istasyonlarından döngü için N talimatları seçer. Throttling limitleri bu genişlikte -örneğin, donanım 4'ü destekler olsa da, birçok iş yükü için sadece% 5-10 performans azalır.Geçmiş en az zararlı olan, yüksek veriye bağlı olarak sabit noktaların sabitlenmesini sağlayan programcının en az zararlı olduğu durumlarda tespit edilebilir.

Power-Aware Instruction Reordering ve Dispatch

Geleneksel olmayan programcılar bağımlı zincirlerin temellerini önceliklendirir, maxding ILP. Bir güç-aware varyantı ikinci bir kriteri ekliyor: Bazı yürütme birimlerinde enerji maliyeti.Örneğin, bir bölüm ünitesi, eklenmiş sıcak noktalardan kaçınmak için 5× bir bölme talimatını geciktirebilir, daha basit bir talimat hazırsa ve güç bütçesi biraz daha iyi gidiyorsa.Bu, heterojen sistemlerde "enerji-ya dikkati zamanlama" anlamına gelir.

Spekülasyon Kontrolü

Superscalar işlemciler, boru hattını doldurmanın temel tahmin ve spekülatif infaza büyük ölçüde güveniyor.Sorunluluk, güç bütçesi düşük olduğunda, yanlış tahminlere dayanan yanlış yolların gücünü azaltın. Bazı işlemciler, "tarafsızlığı veya duraklama derinliğini azaltabiliyor" veya ön planda duran hataların altında yatan tahminleri kısıtlayabilir.

Power-Aware Scheduling için Mimari Destek

Güç algılaması zamanlaması, birden çok boru hattı aşamalarında değişiklik gerektirir. Programcının gerçek zamanlı güç tahminlerine, termal sensör okumalarına ve enerji modellerine erişmesi gerekir. Modern çipler mevcut sensörler, gerilim düzenleyicileri telemetri ile birlikte içerir ve sıcaklık diyotları ile bu veriler bir sonraki zamanlama penceresi için bir enerji bütçesine sahiptir.

Donanımda Güç Modelleme

Doğru güç modellemesi önemlidir, ancak non-trivial. Dynamic power, her döngüyü güncelliyor ve her işlevsel birimin geçiş faaliyetlerine bağlıdır, bu da iş yüküne bağımlıdır. Birçok araştırma önerisi, otobüs hatlarına geçiş yapan aktivite sayacı kullanıyor, kayıt portları ve uygulama birimleri girişleri ile birlikte.Bu sayacılar her döngüyü güncelliyor ve birim özel güç katlarını test eden güç tahmin ediyor.

Programı uygulamak

Programcının kendisi, her bir komut kodlanmış bir işlem türünden elde edilen bir "enerji etiketi" olarak oturuyor. Bu, daha sonra çok kısıtlayıcı bir seçim algoritması uygular: Bu, eğitim limitine, güç bütçesine ve potansiyel olarak her kümeye hazır olan ısı limitine saygı duymalıdır.Bu, knaack problemine sahip bir "enerji etiketi" taşıyabilir, ancak donanım uygulamaları genellikle bir sonraki kontrol için bir sonraki kontrol işlemi uygular.

Başka bir yaklaşım, daha düşük güç için ticaret ILP'nin nerede sabitlendiğini "güçlü bir talimat penceresi" kullanmak. daha küçük bir pencere, yüksek güç stresi altında dinamik olarak azaltılabilir. daha küçük bir pencere, kayıt dosya basıncı ve spekülasyonlar azaltmak, kayıt dosyasını azaltmak ve spekülasyonlar için etkili bir şekilde bir güç throttle that trades ILP for lower power.

Makine Öğrenme ve Tahmin Edici Güç Yönetimi

Statik heuristics genellikle kısa düşer, çünkü iş yükü özellikleri hızla değişir. Makine öğrenimi (ML) modelleri, özellikle de takviye öğrenme (RL), en iyi zamanlama politikaları öğrenme konusunda söz verdi. Örneğin, Sridharan et al. (2016) tarafından bir RL tabanlı bir programcının sabit bir eşiği elde edebileceği 10-15 enerji tasarrufunu en aza indirmek için.

Ancak, bir işlemcinin içinde ML'nin uygulanması hafif modeller gerektirir. İkili ağırlıklarla küçük sinir ağları, düşük gecikmeli donanımda sentezlenebilir. Eğitim, tipik iş yükleri üzerinde çevrimdışı yapılabilir ve model parametrelerine yüklenen model parametreleri, alternatif olarak, online öğrenme karmaşıklıklarını artırabilir. Future işlemciler, ML algoritmaları kullanan ve ana mantığına ilişkin ipucuları içeren özel "güç yönetimi temelleri" içerebilir.

Vaka Çalışmaları ve Endüstri Örnekleri

Ticari işlemciler giderek güçlendirici zamanlamasını içerir. Intel'in Skylake ve yeni çekirdekleri yüksek performanslı ve enerji verimli çekirdekler arasında bir "güç kontrol ünitesi" (PCU) kullanır ve küme başına frekans ve gerilim ayarlar. PCU ayrıca, güç sınırları aşıldığında eğitim programları ile ilgili sinyalleri etkiler.

Araştırma alanında IBM G7, güç bütçelerine dayanan “watt-aware” bir programcı tanıttı.Daha yakın zamanda, “Halide” mimarisine karşı, bir kayıt kaydın kaydına göre önbellekli bir model kullanarak bir programcı önerdi. (2021)

Dış referanslar: Kapsamlı bir anket için, bkz.Ş.A Study of Power-Aware Scheduling in Multiprocessor Systems" by Zhuravlev et al. (2012))[BİLMİNDÜŞÜNCÜye Olmayan Bir Uygulamanın İncelenmesi:2”Runtime Power Watch in High-Bitki Süreçors: Yöntemoloji ve Empirical Data").

Power-Aware Scheduling

Güç ve ısı modelleri

Planlayıcının kararları güvenilir güç tahminlerine bağlıdır. Ancak, dinamik güç döngüsü ölçmek için çok zor. Birçok öneri, işlem köşeleri boyunca farklı öğretim noktaları için ortalama güç kullanır, ki bu da geçici bir ısıtılır.

Performans Overhead vs. Enerji Tasarrufları

Her güç tasarrufu işlemi - konu genişliği, DVFS, spekülasyon throttling - performans cezasına çarptırılır. Güç tasarrufunun sanatı genellikle en yüksek enerji tasarruflarını en aza indirirken performans kaybı en aza indirmektir. Ayrıca, en iyi nokta, iş yükü ve kullanıcı tercihine bağlıdır (örneğin, performans-per-watt vs. mutlak performans).In server ortamları,% 5 performans azaltımı için% 20 güç tasarrufu genellikle kabul edilebilir; gömülü sistemlerde, ticaret-off daha sıkı bir şekilde kontrole yol açabilir.

Yüksek Lisans Güç Yöneticileri ile entegrasyon

Modern sistemler birden çok güç yönetimi katmanına sahiptir: OS programı, sistem bilgisayarı (ACPI), ve donanım programıcı. Bu katmanlar, örneğin, OS, ACPI aracılığıyla bazı bir güç durumu (P-state) talep edebilir, ancak donanım programı bu durumda daha iyi bir konu sorunu göz önünde bulundurmalıdır.

Future Yol Tarifi

Silikon teknolojisi daha küçük düğümlere ölçeklendiğinde, statik sızıntı, toplam güçten kaçınmak için daha büyük bir miktar haline gelir. Bu, ısı limitleri nedeniyle güçsüz kalmalı ve verimli bir devlet tutma gücü sağlar - seçici olarak uzman hızlandırıcılar tarafından kullanılabilir.

Başka bir umut verici yön, yaklaşık hesaplamanın kullanımıdır. Bazı iş yükleri zorlaşılır (örneğin, görüntü işleme, makine öğrenimi teşviki). Bir programcı, belirli talimatları kasıtlı olarak atabilir veya hassaslığı azaltabilir (örneğin, düşük seviyeli bir arithmetic) güç kısıtlandığında, aniden throttling yerine lütuflu performans bozulmasını sağlayabilir.

Son olarak, DRAM güç bütçesi tükendiğinde güçlendiricileri ve ağ-on-çip (NoC) entegrasyonu birçok çekirdek işlemcilerde kritik hale gelecektir.

Sonuç Sonuç Sonuç Sonuç Sonuç Sonuç Sonuç Sonuç

Power-aware scheduling is not an optional add-on değil, modern süperscalar CPU sistemleri için bir gereklilik enerji verimliliği ile performans dengelemek zorunda. Dinamik olarak eğitim sorunu, spekülasyonlar, gerilim-fret entegrasyonu, ve kaynak tahsisi, işlemciler hala yüksek büyüme talep ederken, güç-aware serisi, daha fazla bilgisayar destekli bir tasarıma dayalı bir şekilde tasarıma dönüşen daha fazla bilgisayar destekli bir şekilde tasarlanabilir hale gelecektir.