IVA TPU

Основные статьи:

• Нейросети (нейронные сети)
• Машинное обучение (Machine Learning)

IVA TPU — первый полностью российский нейронный процессор, позволяющий создавать доверенные решения в области телекоммуникаций и радиоэлектроники.

2020: В числе лучших мировых решений по версии MLPerf

Российские процессоры IVA TPU вошли в число лучших мировых решений по версии MLPerf. Об этом 5 ноября 2020 года TAdviser сообщила компания IVA Technologies.

Российские тензорные процессоры признаны одними из лучших в мире. Источник фото: rlocman.ru

На международной площадке MLPerf провели тестирование архитектуры ускорителя расчета нейронных сетей IVA TPU, разработанной компанией IVA Technologies. Аттестация продукта позволит повысить степень доверия к разработчику, в частности со стороны коммерческого и исследовательского зарубежных сообществ, и обеспечит ему достойное место в ряду международных гигантов на рынке микроэлектроники в области поддержки искусственного интеллекта.

Результаты тестирования архитектуры IVA TPU, реализованной в FPGA, подтверждены и опубликованы на официальной странице сайта MLPerf^[1] в разделах инференса на оконечных устройствах Edge, Closed Division (ID 0.7-156) и Edge, Open Division (ID 0.7-396). MLPerf – международная площадка аттестации и тестирования оборудования в сфере машинного обучения и искусственного интеллекта. Решение квалифицировали в самую сложную группу Closed Division – закрытый список сетей с ограничениями на модификации, время ожидания и точность.

Данное событие без преувеличения отличительно для России. Трудно вспомнить примеры, когда отечественная разработка в микроэлектронике, получала аттестат зрелости аппаратной и программной составляющих у зарубежных экспертов. Мы показали, что сравнительно небольшая коммерческая молодая компания, при правильно выстроенной стратегии развития и рабочих процессах, способна реализовать потенциал своей команды, создать продукт в одной из самых сложных областей микроэлектроники – микропроцессорах. отметил заместитель генерального директора IVA Technologies, руководитель направления Евгений Терентьев.

Edge AI – это самый быстрорастущий сегмент на рынке, и в группе Closed Division Edge представлено всего 5 поставщиков: Nvidia, ARM, Centaur, Xilinx и, с сентября 2020г., IVA Technologies.

Из анализа результатов видно, что для одной из самых распространенных нейронных сетей (Resnet-50), архитектура IVA TPU обеспечивает задержку в 3 раза меньше, чем лучшее решение от Xilinx. Планируется, что при реализации ускорителя с архитектурой IVA TPU в ASIC (ожидаются в первом квартале 2021г.), результаты будут лучше, чем у нашего ближайшего конкурента Nvidia Jetson Xavier NX несмотря на отставание в технологии (28 нм против 12 нм).

Это было серьезное испытание и оценка уровня зрелости аппаратных и программных стеков архитектуры IVA TPU, которое наша команда прошла, подтвердив свой высокий профессионализм. Российская разработка заняла достойное место в одном ряду с международными гигантами с сфере микроэлектроники для поддержки искусственного интеллекта, добавил Евгений Терентьев.

В ближайшее время на базе IP-ядра IVA TPU запускается в производство две конфигурации микропроцессоров – для оконечных устройств (IVA E) и облачных сервисов (IVA H). На базе микропроцессоров разрабатывается несколько реализаций модулей, которые будут непосредственно применяться в электронных устройствах заказчиков.

Таким образом IVA Technologies сможет сформировать продуктовую линейку, которая позволит удовлетворить потребности в вычислительных ресурсах для ускоренного расчета нейронных сетей, у совершенно разных производственных и сервисных компаний. Речь идет о производителях смарт устройств (умные камеры, IoT, промышленная и городская безопасность), о разработчиках автономных машин (ADAS, дроны), о крупных операторах сервисов и ЦОД (обработка фото- и видеоданных, текста, голоса, информационная безопасность). Кроме того, в планах компании начало продаж вычислительных ресурсов для инференса нейронных сетей через облачный сервис.

2018: Презентация

24-25 сентября 2018 года в Москве был представлен тензорный процессор IVA TPU.

По информации компании IVA Technologies, микропроцессор предназначен для применения (инференс) сверточных нейронных сетей на базе FPGA Virtex Ultrascale+ и находит практическое применение для детектирования и классификации изображений, поиска объектов, повышения качества и других.

Основными особенностями IVA TPU, по словам разработчиков, являются совместимость с готовым свободным программным обеспечением (TensorFlow), высокая производительность (более 20 TOPS) при малом энергопотреблении и значительно меньшем времени обработки, чем GPU.

На сентябрь 2018 года остро ощущается потребность в разработке специализированных вычислительных устройств, вызванная требованиями, предъявляемыми к вычислительным мощностям при обучении и применении нейронных сетей. Мы успешно справились с данной задачей — реализованный макет тензорного процессора подтвердил инженерные расчеты ТТХ. У нас уже имеются готовые примеры решений для детектирования и распознавания образов, сегментации и поиска лиц на изображениях, — рассказал Николай Ивенев, председатель совета директоров IVA Technologies.

Примечания