Исходный код движка Microsoft для ML-моделей ONNX Runtime размещен на GitHub
Microsoft сообщила о размещении исходного кода ONNX Runtime на GitHub. Проект является высокопроизводительным движком для моделей машинного обучения в формате ONNX (Open Neural Network Exchange), обеспечивающем совместимость ML-моделей со свободными ИИ-фреймворками (TensorFlow, Cognitive Toolkit, Caffe2, MXNet). Поэтому ONNX Runtime используют для оптимизации вычислений в моделях глубокого обучения нейронных сетей.
С переводом проекта в open source компания надеется привлечь больше людей к развитию машинного обучения. Более того, Microsoft пообещала быстро реагировать на коммиты.
Применение ONNX Runtime
Для применения ONNX Runtime необходимо определить ONNX-модель и подобрать для неё инструмент. Их список и инструкции размещены на странице GitHub. Microsoft предлагает несколько вариантов для тех, кто не знает, с чего начать:
- скачать готовые модели ResNet или TinyYOLO из ONNX Model Zoo;
- создать собственные модели компьютерного зрения при помощи пользовательской службы визуального распознавания Azure;
- сконвертировать с помощью ONNXMLTools и TF2ONNX модели, созданные в TensorFlow, Keras, Scikit-Learn или CoreML;
- натренировать новые модели с использованием машинного обучения Azure и сохранить результат в формате ONNX.
Поддержка ONNX Runtime
По словам представителя Microsoft Эрика Бойда (Eric Boyd), команды сервисов Bing Search, Bing Ads и Office смогли достичь вдвое большей производительности ML-моделей при использовании ONNX Runtime по сравнению со стандартными решениями. Поэтому важна поддержка проекта как пользователями, так и крупными компаниями. Что касается последних, то пока они воплощают следующие проекты:
- Microsoft и Intel внедряют компилятор nGraph;
- NVIDIA работает над интеграцией TensorRT;
- Qualcomm рассчитывает на развитие мобильной платформы Snapdragon.
В начале декабря 2017 года ONNX перевели из стадии раннего доступа в проект, соответствующий условиям промышленной эксплуатации. Компании призвали сообщество присоединиться к проекту и помочь в создании единой платформы взаимодействия с инструментами глубокого обучения.