+38/044/257-2444
+38/067/502-3306
+38/050/370-3627
Новости

Исходный код движка Microsoft для ML-моделей ONNX Runtime размещен на GitHub

Исходный код движка Microsoft для ML-моделей ONNX Runtime размещен на GitHub

Microsoft сообщила о размещении исходного кода ONNX Runtime на GitHub. Проект является высокопроизводительным движком для моделей машинного обучения в формате ONNX (Open Neural Network Exchange), обеспечивающем совместимость ML-моделей со свободными ИИ-фреймворками (TensorFlow, Cognitive Toolkit, Caffe2, MXNet). Поэтому ONNX Runtime используют для оптимизации вычислений в моделях глубокого обучения нейронных сетей.

С переводом проекта в open source компания надеется привлечь больше людей к развитию машинного обучения. Более того, Microsoft пообещала быстро реагировать на коммиты.

Применение ONNX Runtime

Для применения ONNX Runtime необходимо определить ONNX-модель и подобрать для неё инструмент. Их список и инструкции размещены на странице GitHub. Microsoft предлагает несколько вариантов для тех, кто не знает, с чего начать:

  • скачать готовые модели ResNet или TinyYOLO из ONNX Model Zoo;
  • создать собственные модели компьютерного зрения при помощи пользовательской службы визуального распознавания Azure;
  • сконвертировать с помощью ONNXMLTools и TF2ONNX модели, созданные в TensorFlow, Keras, Scikit-Learn или CoreML;
  • натренировать новые модели с использованием машинного обучения Azure и сохранить результат в формате ONNX.

Поддержка ONNX Runtime

По словам представителя Microsoft Эрика Бойда (Eric Boyd), команды сервисов Bing Search, Bing Ads и Office смогли достичь вдвое большей производительности ML-моделей при использовании ONNX Runtime по сравнению со стандартными решениями. Поэтому важна поддержка проекта как пользователями, так и крупными компаниями. Что касается последних, то пока они воплощают следующие проекты:

  • Microsoft и Intel внедряют компилятор nGraph;
  • NVIDIA работает над интеграцией TensorRT;
  • Qualcomm рассчитывает на развитие мобильной платформы Snapdragon.

В начале декабря 2017 года ONNX перевели из стадии раннего доступа в проект, соответствующий условиям промышленной эксплуатации. Компании призвали сообщество присоединиться к проекту и помочь в создании единой платформы взаимодействия с инструментами глубокого обучения.

Другие новости