Inferx X1 Kenar Çıkarım Hızlandırıcısı, gerçek zamanlı olarak küçük toplu boyutlarda çalışan derin öğrenme modelleri için yüksek bant genişliği desteği gerektiren gerçek zamanlı MPIXEL VISION iş yüklerini işlemek için tasarlanmıştır. Tipik iş yükleri, birçok özellik haritası ve çoklu operatör türlerine sahip derin ağlara sahiptir, şirketi açıklar. Ayrıca, INT8, INT16 ve BF16 dahil olmak üzere karışıklık kullanımını gerektiren model doğruluğu hedeflerine de sahip olabilirler. Hızlandırıcı, katmanlar arasında bir karışım sağlar ve ayrıca bu iş yükleri tarafından tipik olarak gerekli olan düşük gecikmeli parti boyutu (B = 1 çıkarım işlemesi) için de tasarlanmıştır.
Hızlandırıcı, X86 ve kol mimarilerini ve işletim sistemi seçeneğini desteklemektedir. Kamera, IR, Ultrasonik ve RF Sensörü Giriş Tiplerini ve Ethernet, USB ve Wi-Fi Comms Standartlarını destekler.
X1 Dinamik Tensör İşlemci Dizisi, mevcut ve gelecekteki AI / ML modellerini desteklemek için tasarlanmıştır ve bir ASIC'nin hızını ve verimliliğini, yeni çıkarım model teknolojilerinin alan yoluyla evlat edinme ve dağıtımını sağlayarak futureproofs olan yeniden yapılandırılabilir kontrol mantık teknolojisi ile birleştirildiği iddia edilmektedir. güncellemeler. Hızlandırıcı mimarisi, yüksek çözünürlüklü kameralar dahil olmak üzere birden fazla veri türünün işlenmesi için destek sağlar.
İşlemci dizisinin MAC ünitelerine ve 12mbyte on-Chip SRAM'a ek olarak, X1 mimarisi, model ağırlığı, konfigürasyon ve dahili aktivasyon depolama için harici LPDDR4 DRAM'a bağlantı içerir. Bir konakçı işlemciye bağlantı için GEN3 / 4 PCIE de bulunmaktadır.
Şirket ayrıca, Model Derleyici ve Çalışma Zamanı Yazılımı ile Inferx Edge Inference Yazılım Geliştirme Seti sunmaktadır. Model derleyici, tensorflow Lite veya TorsChscript'te ifade edilen modelleri dönüştürür ve bunları doğrudan X1 hızlandırıcısında çalışmalarını derler. Inferx çalışma zamanı, modelin yürütülmesini kontrol eder ve X1, çıkar sonuçlarını oluşturmak için veri buharı işler.