এজেন্সি ইনফারেন্স অ্যাক্সিলারেটরের মেগাপিক্সেল দৃষ্টি ব্যবস্থায় একটি নজর রয়েছে

INFERX X1 EDGE ENDENTENCE ACCELERATOR রিয়েল-টাইম MPIXEL ভিশন্সেল ওয়ার্কলোডগুলি প্রক্রিয়াকরণের জন্য ডিজাইন করা হয়েছে যা গভীর শিক্ষার মডেলগুলির জন্য উচ্চ ব্যান্ডউইথ সমর্থনের প্রয়োজন যা বাস্তব সময়ে ছোট ব্যাচ মাপের সাথে কাজ করে। বৈশিষ্টসূচক workloads অনেক বৈশিষ্ট্য মানচিত্র এবং একাধিক অপারেটর ধরনের সঙ্গে গভীর নেটওয়ার্ক আছে, কোম্পানী ব্যাখ্যা করে। তারা মডেল নির্ভুলতা লক্ষ্যগুলিও থাকতে পারে যা INT8, INT16 এবং BF16 সহ মিশ্র প্রেক্ষাপটে ব্যবহারের প্রয়োজন। অ্যাক্সিলারেটর স্তরগুলির মধ্যে একটি মিশ্রণের অনুমতি দেয় এবং এটি কম ল্যাটেন্সি ব্যাচ আকার (বি = 1 ইন্টিফিকেশন প্রসেসিং) এর জন্য ডিজাইন করা হয় যা সাধারণত এই workloads দ্বারা প্রয়োজনীয়।

অ্যাক্সিলারেটর একটি x86 এবং আর্ম আর্কিটেকচার এবং ওএসের একটি পছন্দ সমর্থন করে। এটি ক্যামেরা, আইআর, অতিস্বনক এবং আরএফ সেন্সর ইনপুট প্রকার এবং ইথারনেট, ইউএসবি এবং ওয়াই-ফাই commss মান সমর্থন করে।

X1 ডাইনামিক টেন্সর প্রসেসর অ্যারে বিদ্যমান এবং ভবিষ্যত এআই / এমএল মডেলগুলি সমর্থন করার জন্য ডিজাইন করা হয়েছে এবং পুনর্বিবেচনার কন্ট্রোল লজিক প্রযুক্তির সাথে একটি এএসআইসি এর গতি এবং দক্ষতা একত্রিত করার জন্য দাবি করা হয় যা ভবিষ্যতে এটি ক্ষেত্রের মাধ্যমে নতুন ধারণা মডেল প্রযুক্তির গ্রহণ এবং স্থাপনার সক্ষম করে আপডেট। অ্যাক্সিলারেটর আর্কিটেকচার উচ্চ রেজোলিউশনের ক্যামেরা সহ একাধিক ডাটা প্রকার প্রক্রিয়াকরণের জন্য সমর্থন করার অনুমতি দেয়।

প্রসেসর অ্যারে এর ম্যাক ইউনিট এবং 1২ মাইট অফ অন চিপ শ্রীমের 12 এমবিটি ছাড়াও, এক্স 1 আর্কিটেকচার মডেল ওজন, কনফিগারেশন এবং অভ্যন্তরীণ অ্যাক্টিভেশন স্টোরেজের জন্য বহিরাগত LPDDR4 নাটাতে সংযোগ রয়েছে। একটি হোস্ট প্রসেসর সংযোগের জন্য Gen3 / 4 PCIE আছে।

কোম্পানিটি মডেল কম্পাইলার এবং রানটাইম সফ্টওয়্যারের সাথে ইনফারেক্স এজ ইনফারেন্স সফ্টওয়্যার ডেভেলপমেন্ট কিট সরবরাহ করে। মডেল কম্পাইলারটি Tensorflow Lite বা TorschScript- এ প্রকাশ করা মডেলগুলি রূপান্তরিত করে এবং তাদেরকে X1 accelerator এ সরাসরি কাজ করতে কম্পাইল করে। Inferx রানটাইমটি মডেলের মৃত্যুদন্ড কার্যকর করে এবং x1 এর তথ্য বাষ্পের ফলাফলগুলি তৈরি করতে ডাটা বাষ্প প্রসেস করে।