Microsoft анонсировала инновации для ответственного использования машинного обучения
Microsoft анонсировала инновации для ответственного использования машинного обучения
Microsoft анонсировала инновации для ответственного использования машинного обучения, которые помогут лучше понимать поведение моделей машинного обучения, контролировать их, а также обеспечивать конфиденциальность данных в течение всего цикла работы с ними. Новый функционал будет доступен в Azure Machine Learning и в виде открытого кода на GitHub.
Способность понимать поведение модели включает возможности интерпретируемости, которые обеспечивает инструмент InterpretML — именно его использует SAS для распознавания случаев мошенничества в программе лояльности EuroBonus.
Кроме того, Microsoft объявила, что набор инструментов Fairlearn, включающий в себя возможности оценки и повышения объективности ИИ-систем, в июне будет интегрирован с Azure Machine Learning.
Microsoft также анонсировала доступность для разработчиков набора инструментов для обеспечения дифференциальной приватности White Noise. Они могут экспериментировать с открытым кодом на GitHub или использовать его в Azure Machine Learning. Функционал дифференциальных режимов конфиденциальности был разработан в сотрудничестве с исследователями Гарвардского института количественной социологии и Школы проектирования.
Техники дифференциальной приватности дают возможность извлекать выводы из частных данных, предоставляя статистические гарантии, что конфиденциальные сведения — например, имена и дни рождения — останутся под защитой.
Например, благодаря технологии дифференциальной приватности несколько больниц вместе смогут создать более точную прогностическую модель эффективности лечения рака, в то же время соблюдая требования законодательства по защите конфиденциальности медицинской информации и гарантируя, что никакие личные данные пациентов не выйдут за пределы модели.
У Azure Machine Learning также есть встроенные инструменты контроля, позволяющие разработчикам отслеживать и автоматизировать весь процесс создания, обучения и развертывания модели. Эта система, известная как «машинное обучение и операции» (machine learning and operations, MLOps), помогает организациям отвечать различным нормам и требованиям.
«Система MLOps связана с операционными, повторяющимися процессами машинного обучения, она позволяет вести учет разнообразных экспериментов, которые я проводил, установленных в них параметров и наборов данных, использовавшихся при этом, и потом использовать их для воссоздания тех же самых процессов».
