Прискорювач висновку Edge Edge X1 призначений для обробки робочих навантажень у режимі реального часу, що вимагає високої смуги пропускної здатності для глибоких навчальних моделей, які працюють з невеликими пакетними розмірами в режимі реального часу. Типові навантаження мають глибокі мережі з багатьма мапами, а також декілька типів операторів, пояснюють компанію. Вони також можуть мати цілі точності моделі, які вимагають використання змішаних точних, у тому числі INT8, INT16 та BF16. Прискорювач дозволяє суміш між шарами і також призначений для розміру партії низького латентності (B = 1 обробка висновків), як правило, вимагається за цими робочими навантаженнями.
Прискорювач підтримує архітектури X86 та ARM та вибір ОС. Він підтримує типи введення камери, ІЧ, ультразвукових та РФ та стандартів Ethernet, USB та Wi-Fi.
Характер динамічного тензора X1 призначений для підтримки існуючих та майбутніх моделей AI / ML, і заявлено, що поєднується зі швидкістю та ефективністю ASIC з перебудовуваною технологією керування логікою, яка майбутній ІТ, дозволяючи усиновлення та розгортання нових технологій висновку Оновлення. Архітектура акселератора дозволяє підтримувати обробку декількох типів даних, включаючи камери високої роздільної здатності.
На додаток до MAC-одиниць процесора ARRAY та 12Mbyte ON-CHIP SRAM, архітектура X1 включає підключення до зовнішньої LPDDR4 DRAM для моделі маси, конфігурації та внутрішнього активації. Існує також Gen3 / 4 PCIE для підключення до хостового процесора.
Компанія також пропонує комплект розробки програмного забезпечення для розробки програмного забезпечення Edge Edge Edge з модельним компілятором та програмним забезпеченням виконання. Модельний компілятор перетворює моделі, виражені в Tensorflow Lite або TorschScript, і складається з них, щоб працювати безпосередньо на прискорювачі X1. Засіб виконання виконавчого часу керує виконанням моделі, а X1 обробляє пари даних, щоб генерувати результати висновку.