Data Throughput ve Storage'ı Büyük ölçekli ADC Data Acquisition Systems'de Nasıl Yönetilir
Data Throughput in Large-Scale ADC Data Acquisition Systems
Analog-to-Dijital havuzlar (ADCs) modern ölçüm ve izleme sistemlerinin arka kemiğidir, bu sürekli analog sinyalleri ayrı dijital değerlere çevirmektedir. Büyük ölçekli dağıtımlarda - parçacık fiziği deneyleri, fazlı tıbbi görüntüleme sistemleri gibi - ADC'lerden gelen veriler ikinci başına yüzlerce gigabit'ye ulaşabilir.Bu tür verilerdeki bu tür kısıtlamalarla ilgili derin bir anlayış gerektirir, bu tür stratejiler ve depolama mimarisi olmadan.
Bir ADC sistemindeki veriler, örnekleme oranının ürünü ve örnek başına biraz derinlik olarak tanımlanır, tipik bir kiriş dizisiyle çarpılır ve toplam oranı ikinci başına 12bit ADC örneklenir (GSPS).
Tartışmalar
Bağlantı gereksinimleri ile karşılayan bir sistem tasarlamak için mühendisler dört birincil kısıtlama domaini değerlendirmelidir:
- [[DÜSÜSÜSÜSÜSÜSÜSÜSÜ:0)ADC çıkış arayüz bant genişliği[[DÜDÜSTRİYE): Modern yüksek hızlı ADCs JESD204B/C serisi arayüzlerini şeritli hızlara 32 Gbps'ye kadar genişletiyor. şerit sayısı ve achievlenebilir çizgi oranı doğrudan dönüştürücüden maksimum sürenizi belirler.
- [FONT:0)Processing zinciri geç kalmış [DDCT:1]: ADC'den sonra, veriler genellikle FPGAs veya dijital down-converters (DDCs) aracılığıyla geçer.Eğer işlem adım tam ADC oranında veri kabul edemezse, geri baskı örnek kaybına neden olabilir.
- [FONT:0) Ağ Kumaşı[[DÜT:1): Dağıtılmış satın almalarda, birden fazla ADC düğümü ile askıya alındı (10GbE, 25GbE, 100GbE) veya yüksek hızlı bağlantılarda (InfiniBand, PCIe Gen 5/6). Her ağ segmenti patlama trafiğini absorbe etmek için kafa odamalıdır.
- [FONT=0]Storage Write speed[DDDD)[FONT=FONT=FONT=0) Depolama sistemi sürekli yaz oranını absorbe edemez. Geleneksel sabit disk sürücüler (HDDs) yaklaşık 250 MB /s; NVMe sağlam devlet sürücüleri (SSD) cihazı 5-7 GB / cihazı çalıştırabilir.
Bu kısıtlamaları anlamak, tasarımcıların donanım seçiminden önce ayrıntılı bir bağlantı bütçesi analizi gerçekleştirmesine olanak sağlar. Ortak bir hata, ADC'leri yüksek örnekleme oranlarıyla belirtmektir, ancak sonra onları yetersiz arka plan bant genişliği ile eşleştirir, veri kaybının devam ettiği şekilde.
Yüksek Lisans için mimarlık: ADC'den Kalıcı Depolama
Büyük ölçekli ADC sisteminde güvenilir verilere ulaşmak için, mimarlık bağlanmak ve dirençli olmalıdır. Veri yolu üç aşamaya ayrılabilir: satın alma ve sayısallaştırma, iletim ve aggregasyon ve depolama ve analiz.
Aşama 1: Satınalma ve Digitization
Sensör ön sonunda, ADC ve analog doğrulama devreleri fiziksel olarak sinyal kaynağına gürültüyü ve sinyal bozulmasına yakın olmalıdır.ADC modülü, küçük FPGA veya mikrokontroller serileştiricileri ve şerit hizasını yönetir. ”ENGT:0Embedd geçerli verileme). - Yüksek ısı kesintileri gibi - JESD204B protokolünde gömülü JESD204B protokolü - bir sonraki aşamada gelen örneklerin düzeltilmesi.
Aşama 2: Translaksiyon ve Aggregation
Bir kez sayısallaştırılmış, birçok ADC kanallarından gelen veriler ortak bir arka plan veya ağ üzerinde toplanmalıdır.In real-time systems like Radar or staged arrays, the second approach is prefer because it allows data reduce (e.g., via digital Beam information, or matched filter) before the network, lowering the network. For real-time systems like Radar or staged arrays, the second approach is prefer because it allows data decrease (e.g.g., data deployment or matched filter) before the network, the network.
Her iki durumda da yüksek hızlı bir anahtar kumaş (örneğin, 1024-port 100GbE geçiş) bir aggregasyon geri kemiği olarak hizmet eder. RDMA Over Converged Ethernet (RoCEv2) veya TCP offload motorları aynı anda CPU yükünü azaltır ve devam eden bir iletiyi azaltır.
Aşama 3: Depolama ve Analiz
Son aşama, büyük ölçekli satın almalar için, dağıtılmış bir depolama sistemi (örneğin Ceph, Lustre veya özel bir NVMe-Fabric serisi) zorunludur.Yazanlama, veri toplamadan geçici patlamaları aşmalıdır ve sistem minimum jitter.FLT:0) Depolama katmanında (FLT:1) sabitlenme ve flaşlama işlemine izin verirken, büyük DRAM önbellekleme işlemine izin verir.
ADC Systems'de Verimli Veri Deposu için Stratejiler
Depolama yönetimi sadece kapasiteyle ilgili değildir; erişilebilirlik, dayanıklılık ve maliyetle ilgilidir. Aşağıdaki stratejiler, organizasyonlar, performans veya veri bütünlüğünden ödün vermeden üretilen son derece ADC sistemlerini ele alır.
Scalable Storage Architectures
Tek bir disk veya hatta tek bir depolama Node 100+ GSPS sisteminin ihtiyaçlarını karşılayabilir. Bunun yerine, hiyerarşik bir yaklaşım gereklidir:
- [FONT:0]Hot tier[[[DÜT:1): yüksek hızlı NVMe dizileri (RAID 0 veya 10) şu anda elde edilen veya analiz edilen veriler için.Bu tier en hızlı yaz hızlarını sağlar - çok fazla on GB /s - ancak terabay başına pahalıdır.
- [FONT=0]Warm tier[[Dönetici: SD- bazlı RAID dizileri veya artık aktif olarak yazılmamış olan veriler için depolama alanıdır, ancak hala saniyeler içinde erişilebilir olması gerekir.
- [FONT:0]Cold tier[[Dönetici: uzun vadeli koruma için kütüphaneler veya bulut arşivleri. Birçok düzenleyici veya bilimsel ihtiyaçlar yıllarca veri tutma, soğuk depolama maliyeti etkisiz hale getirmek.
Örneğin, tiers arasındaki veri transferi otomatik ve politika odaklı olmalıdır. Örneğin, bir ölçüm tamamlandıktan sonra, satın alma sistemi, sıcak depolamaya sıcaktan veri taşıyabilir, kayıp sıkıştırma (örneğin, LZ4 veya zlib) herhangi bir örnek bitmeden kapasite ihtiyaçlarını azaltmak için.
Gelişmiş DataCompleksiyon Teknikleri
Promosyonlar ADC veri depolamasını yönetmek için en güçlü araçlardan biridir, ancak gerçek zamanlı bir satın alma sisteminde, sıkıştırma hattında çalıştırılmalıdır - özel FPGA veya GPU kaynakları gerektirir. Common algoritmaları şunları içerir:
- [FONT=0]Lossless sıkıştırma[[Dönetici: CZ4, Z Standart): Z Standartları gibi modern kompresörler, ADC verileri üzerinde korelasyon oranlarına veya sabit tabanlara sahip olabilir.
- [FONT:0)Seçici veri azaltımı[[[Dönetici: 1 ): Her örneği sıkıştırmak yerine, sistemler önceden tanımlanmış bir eşin altında kartpostal örnekleri ayırt edebilir (örneğin, radyo astronomisinde, sadece gürültü zemininin üzerindeki sinyalleri tutar).
- [FONT:0]Delta encoding[[DDDelta]: ADC örnekleri genellikle ardı ardı ardı ardıl okumalar arasında yavaş yavaş yavaş yavaş yavaş değişir.Başarılı örnekler arasında (delta) ve sonra bu delta akışının yavaş yavaş yavaş yavaş yavaş çeşitli sinyaller için yüksek kompresyon oranlarına kadar yüksek olabilir.
Maksimum verimlilik için, veri özelliklerini karşılayan bir sıkıştırma algoritması seçin. İyi bir başparma kuralı, gerçek ADC verileri üzerinde birkaç algoritmayı karşılaştırmak - açık kaynak kütüphaneleri bu şekilde, örneğin [[ENFLT:0)Z standard by Facebook).
Veri Yönetimi Politikaları ve Yenidenleme
Net veri yönetimi olmadan, depolama, yetimsiz veya kırmızı yedek veri setleriyle hızla doldurur. Aşağıdaki politikaları uygulayın:
- [FONT:0)Data keep schedules[[Dönetici: 0 3) Proje gereksinimlerine dayanan bir dizi dönemden daha eski veya arşiv verileri otomatik olarak silinebilir. Örneğin, ham ADC verileri 30 gün boyunca tutulabilir, iş sonuçları süresiz olarak tutulur.
- [FONT:0)Metadatadata tagging[[DÜT:1): Her veri dosyası zengin metadata (sampling rate, trigger logic, kalibrasyon katları, zamantamps) böylece kullanıcıların tüm mağazayı tarayabilmesi ve filtre verileri bulabilmeleri gerekir.
- [FONT=0)Data deduplication[[[DÜDÜT:1): Birden fazla sistem kayıt çakışma sinyalleri (örneğin, sismik dizilerde), blok seviyesinde dedplikasyon kırmızı depolamayı ortadan kaldırabilir.
Balancing Throughput and Storage: Practical System Design
Büyük ölçekli ADC satın alma sistemi inşa etmenin en zorlu yönü, son zamanlardaki en yüksek transfer ve depolama arasında bir işlemdir.En yüksek kesinti için tasarlanmış bir sistem genellikle yüksek hızlı depolama katmanına veya risk veri kaybına doğrudan sahiptir.Ancak, depolama katmanı süresiz olarak devam edemezse (örneğin, SSD veya ağ tıkanıklık nedeniyle), sistem ADC veya risk veri kaybına zarar verir.
[[Dönetici:0) Önerilen bir yaklaşım, satın alma ön sonu ile depolama sistemi arasında bir geri bildirim kontrolü döngüsü uygulamaktır.ADC kontrol cihazı, örnekleme oranını veya aktif kanalların sayısını dinamik olarak ayarlar.Bu, sağda kullanılan yazılım tanımlı radyo (SDR) sistemlerinde yaygındır.
Başka bir teknik, depolama süresini yönetmek için 100 GB /s, depolama süresini belirlemek için depolamayı sağlamak içindir.Bu% 50 marj, SSD'lerde kısa vadeli patlamalar ve aşınma seviyesinde gecikmeler sağlar.Örneğin, bu artışlar maliyetle büyük ölçüde sistem karmaşıklığı ve yüksek kullanım süreleri boyunca veri kaybı riskini azaltır.
Büyük ADC Data Management
Bu ilkeleri göstermek için, ADC veri yönetiminin önemli olduğu iki alan düşünün:
Square Kilometer (SKA) Radyo Teleskobu
SKA, 50 MHz'den birkaç GHz'ye kadar yüksek hızlı optik fiber ağının merkezi bir işleme tesisine üretecektir.Her anten, veri oranını ~1 Tbps'ye kadar, 10 PB ile bir Lustre dosyası sistemi üzerinde depolanır.It is aggregated via a high- speed fiber network to a central processing facilities.0Compression rates of 3-4×[DDDDönetici)
Büyük Hadron Collider (LHC) Deneyler
CERN'de ATLAS ve CMS gibi dedektörleri ADC'leri on megahertz'ı dijitalleşme olaylarıyla karşılaştırır.Her bir demetten gelen ham veri oranı ikinci başına petabaytlar, ancak bir tetikleyici sistemi, kaydedilen oranı 1 GB /s'e azaltır, ancak toplam veriler yılda depolanır 50 PB. depolama mimarisi, milyonlarca kaset maliyeti kullanır.
Bu örnekler, transkript ve depolamanın bir donanım, sıkıştırma ve politikalar için ortak bir optimizasyon olduğunu gösteriyor - bir sonraki değil.
ADC Data Throughput ve Storage'daki Future Trends
ADC teknolojisi ilerledikçe, örnekleme oranları ve biraz derinlikler artacaktır. GaN tabanlı ADCs yüzlerce GSPS'ye itilirken, bu gelişmelerle, “daha sonra her şeyi ve mağazayı bitiren geleneksel yaklaşım muhtemelen güvenilemez hale gelecektir.
- [FONT=0]In-network intelligence[[[DÜT 1: 1 ): Akıllı anahtarlar ve DPUs (data işleme birimleri) filtre, sıkıştırabilir veya veri kümesine ulaşmadan önce şifrelenir, hatta depolama alanına ulaşır, dramatik bir şekilde kesinti ve kapasite talepleri azaltır.
- [FONT:0) Hayırlı bellek ekspresi) Fabrics (NVMe-oF) üzerinde birleşik bir bağlantı olarak, CPU katılımı olmadan doğrudan hafıza-topan transferlerine izin vermek.Bu, geç kalmışlığı azaltır ve bunu etkili bir şekilde artırır.
- [FONT=0)Makine öğrenme tabanlı sıkıştırma[[Dönetici:0) Gerçek zamanlı ADC sinyallerinin istatistiksel desenlerini öğrenmek, istasyon dışı sinyal için daha yüksek sıkıştırma oranları sağlamak.
Bu gelişen teknolojilere yatırım yapan kuruluşlar, bir sonraki ultra yüksek hızlı veri satın alma sistemlerini işlemek için daha iyi hazır olacaktır.
Sonuç Sonuç Sonuç Sonuç Sonuç Sonuç Sonuç Sonuç
Büyük ölçekli ADC veri satın alma sistemleri, tümleşik bir mühendislik yaklaşımı gerektiren çok yönlü bir meydan okumadır.ADC arayüzlerinden ağ kumaşlarına ve depolama yazma hızlarına kadar -mühendisler, modern ağ ve depolama teknolojilerini önlemek için mimarlık tasarlayabilirler, her örnekten alınan değerin ezici altyapıdan elde edilmesi ve güvenilir bir şekilde yararlanılabilir olmasını sağlar.