Nvidia GPU Cloud (NGC)

Nvidia GPU Cloud (NGC) - репозиторий контейнеров для разработчиков решений для искусственного интеллекта.

2020: Инвестирование $40 млн в ИИ-приложения

27 марта 2020 года «Яндекс» сообщил о сотрудничестве своей платформы «Яндекс.Облако» с Nvidia в рамках развития технологий искусственного интеллекта (ИИ). Партнёры открывают для российских компаний библиотеку приложений для работы с машинным обучением, нейросетями и ИИ Nvidia GPU Cloud (NGC).

Российские компании могут применять приложения NGС для решения прикладных бизнес-задач: построения рекомендательных систем, оптимизированного управления запасами, оптического контроля на производстве, организации дорожного движения в умных городах, разработки различных приложений и систем на основе компьютерного зрения.

«Яндекс.Облако» и Nvidia помогут внедрить искусственный интеллект

Готовые приложения для работы с ИИ и машинным обучением также помогут в создании принципиально новых продуктов и сервисов «завтрашнего дня»: в сфере беспилотного транспорта, генного анализа и медицинских исследований, дополненной и виртуальной реальности. 

Платформа «Яндекс.Облако» стала первым публичным облаком в России, получившим статус официального партнера c NGC-сертификацией от Nvidia.

Подразделение «Яндекса» планирует инвестировать в развитие инфраструктуры облачной платформы и разработку инструментов ИИ не менее $40 млн, рассказал «Ведомостям» представитель компании. А если спрос на ИИ-решения будет расти, то инвестиции будут увеличены. С конца 2019 года вложено более $5 млн, уточнил он.

Инвестиции направят на закупку GPU-процессоров для увеличения вычислительных возможностей платформы, а также на расширение команды по разработке собственных сервисов на базе ИИ.

Платформа поможет быстро запускать ИИ в бизнесе, но российские компании стремятся всё сделать сами, а не пользоваться сторонними сервисами, считает главный аналитик Центра по искусственному интеллекту НТИ на базе МФТИ Игорь Пивоваров.
^[1]

2017

Расширение функционала с добавлением поддержки ONNX и MXNet 1.0

4 декабря 2017 года компания NVIDIA объявила о поддержке облачной платформы Nvidia GPU Cloud (NGC) для продуктов Nvidia Titan и исследователей в области искусственного интеллекта (ИИ), работающих на графических процессорах Nvidia.

Nvidia расширила возможности NGC, добавив программные апдейты для репозитория контейнеров NGC. Теперь исследователям доступен широкий набор инструментов, способных ускорить работу, связанную с искусственным интеллектом и высокопроизводительными вычислениями.

Пользователи GPU TITAN на архитектуре Pascal могут бесплатно зарегистрироваться в системе NGC, чтобы получить доступ к полному каталогу оптимизированных для GPU инструментов глубокого обучения и HPC-вычислений. В список поддерживаемых платформ входят NVIDIA DGX-1, DGX Station и экземпляры с NVIDIA Volta на Amazon EC2.

Репозиорий контейнеров NGC содержит оптимизированные фреймворки глубокого обучения NVIDIA - TensorFlow и PyTorch, HPC-приложения от сторонних компаний, инструменты визуализации NVIDIA для HPC и программируемый ускоритель логических выводов NVIDIA TensorRT 3.0.

Помимо доступности NVIDIA TensorRT в репозитории NGC, NVIDIA анонсировала апдейты для NGC:

• поддержка Open Neural Network Exchange (ONNX) для TensorRT;
• поддержка и доступность первого релиза MXNet 1.0;
• доступность ИИ-фреймворка Baidu PaddlePaddle.

ONNX – это открытый формат, созданный Facebook и Microsoft, через который разработчики могут обмениваться моделями в разных фреймворках. В контейнере разработки TensorRT NVIDIA создала конвертер, позволяющий использовать модели ONNX в движке логических выводов TensorRT. Это позволяет упростить внедрение низколатентных моделей в TensorRT.

Для разработчиков доступен источник программного обеспечения в области ИИ-вычислений – от исследований до разработки, обучения и внедрения приложений.

Открытие доступа к репозиторию контейнеров

25 октября 2017 года компания NVIDIA объявила о доступности репозитария контейнеров NVIDIA GPU Cloud (NGC) для разработчиков ИИ-решений во всем мире.

По мнению компании, бесплатный доступ к полноценному, простому в использовании и оптимизированному программному стеку для задач глубокого обучения NGC поможет разработчикам приступить к разработке программ глубокого обучения.

Облачный сервис доступен пользователям анонсированных инстансов Amazon Elastic Compute Cloud (Amazon EC2) P3 на основе графических процессоров NVIDIA Tesla V100.

После регистрации в NGC разработчики могут загрузить контейнерный программный стек, включающий и оптимизирующий широкий спектр фреймворков глубокого обучения, библиотек NVIDIA и рабочих версий CUDA, которые плавно работают в облаке или в системах NVIDIA DGX.

Разработчикам программ глубокого обучения с помощью NGC нужно выполнить три шага:

• Бесплатно создать учетную запись NGC на странице www.nvidia.com/ngcsignup.
• Запустить оптимизированный образ NVIDIA на платформе поставщика облачных сервисов.
• Загрузить контейнеры из NGC.

Основные свойства репозитария контейнеров NGC:

• быстрый доступ к фреймворкам с GPU-ускорением:
  • в составе программного пакета, упакованного в контейнеры:
    • NVCaffe,
    • Caffe2,
    • Microsoft Cognitive Toolkit (CNTK),
    • DIGITS,
    • MXNet,
    • PyTorch,
    • TensorFlow,
    • Theano
    • Torch,
    • CUDA, для разработки приложений.

• производительность: репозитарий контейнеров NGC, настроенный, протестированный и сертифицированный NVIDIA, обеспечивает разработчикам оптимальную производительность на графических процессорах NVIDIA, работающих в облаке.
• прединтеграция: контейнеры позволяют пользователям приступить к разработке решений глубокого обучения, минуя сложную и долговременную фазу программной интеграции.
• актуальность: контейнеры совершенствуются командой NVIDIA, гарантируя оптимизацию каждого фреймворка глубокого обучения для быстрого обучения на GPU NVIDIA. Инженеры NVIDIA регулярно оптимизируют библиотеки, драйверы и контейнеры за счет ежемесячным обновлений.

Представление сервиса Nvidia GPU Cloud, (2017)