Искусственный Интеллект в режиме реального времени: Microsoft представила Project Brainwave
Искусственный Интеллект в режиме реального времени: Microsoft представила Project Brainwave
Каждый день тысячи гаджетов сходят со сборочных линий заводов производственной компании Jabil на пути к потребителям.
Автоматизированная система оптического контроля проверяет эту продукцию, пытаясь найти любые дефекты и аномалии. Все те изделия, которые вызвали у автоматики сомнения, обязательно проверяются вручную.
Из-за высокой скорости конвейера у людей, выполняющих эту проверку, есть всего несколько секунд, чтобы определить, действительно ли изделие имеет дефекты.
Помочь в решении этой задачи может проект Microsoft Project Brainwave. Это аппаратная архитектура, разработанная для ускорения вычислений, выполняемых искусственным интеллектом (ИИ) в реальном времени. В Project Brainwave используются специальные микросхемы производства Intel — программируемые вентильные матрицы (field programmable gate array, FPGA), позволяющие производить анализ методами ИИ в режиме реального времени, причем с приемлемыми расходами и с самой низкой задержкой в отрасли (это можно утверждать на основании внутренних измерений производительности и их сравнения с общедоступной информацией других организаций).
На прошедшей 7–9 мая в Сиэтле конференции разработчиков Build Microsoft объявила о выпуске предварительной версии Project Brainwave, интегрированной с платформой машинного обучения Azure Machine Learning и делающей Azure самой эффективной облачной платформой для ИИ.
Марк Руссинович, технический директор Microsoft Azure, говорит, что предварительная версия Project Brainwave знаменует начало разработок Microsoft по применению широких возможностей FPGA в самых разных целях.
«Я полагаю, это первый шаг к превращению FPGA в потребительскую платформу более широкого применения», — говорит Руссинович.
Компания Jabil сотрудничает с Microsoft, изучая, какие возможности открывает Project Brainwave по использованию ИИ для быстрого сканирования и точного обнаружения ложных срабатываний при контроле качества продукции, то есть отбраковки изделий, у которых в действительности нет дефектов. Более точная система анализа позволит освободить сотрудников, вручную ищущих дефекты, для выполнения более сложных задач.
Сэкономленные секунды складываются в ощутимый результат, а для производства важны любые способы повышения эффективности, которые идут на пользу потребителям.
«В нашей отрасли очень высокая конкуренция, поэтому нам будет полезно все то, что дает потребителям какие-либо преимущества», — говорит Райан Литвак, ИТ-менеджер Jabil.
Предварительная версия Project Brainwave позволяет очень быстро распознавать изображения для различных целей, включая то, что требуется Jabil. Появляется возможность производить вычисления на основе ИИ в реальном времени, вместо того чтобы разделять задания на небольшие части и выполнять их по отдельности. Проект работает на основе TensorFlow, одной из наиболее распространенных вычислительных платформ для ИИ, которая использует глубокие нейронные сети, грубо моделирующие работу человеческого мозга. Кроме того, Microsoft работает над добавлением поддержки Microsoft Cognitive Toolkit — еще одной популярной платформы для глубокого обучения.
Microsoft объявила также о выпуске ограниченной предварительной версии Project Brainwave для умных сенсоров (Intelligent Edge). В результате пользователи получат выгоду от ускорения вычислений, производимых непосредственно на их предприятиях, даже если соответствующие системы не подключены к сети или Интернету.
«Мы делаем ИИ доступным в реальном времени для наших потребителей — и в облаке, и на их собственных устройствах», — говорит Дуг Бюргер, авторитетный инженер Microsoft, руководитель группы, которая первой предложила использовать FPGA для работы с ИИ.
Как говорит Литвак, доступность Project Brainwave на умных сенсорах позволяет Jabil использовать эту систему непосредственно в производственных помещениях, что очень важно для обеспечения практичности и прибыльности всех операций.
Jabil — одна из крупнейших и технологически развитых производственных компаний в мире. Клиенты обращаются к Jabil с бизнес-планами разной степени готовности — от набросков и эскизов до полноценных продуктов, готовых к сборке. Всех клиентов объединяет желание воплотить свои проекты в жизнь максимально эффективно и с наибольшей экономической отдачей. Поэтому возможность сэкономить даже миллисекунду на каждой операции и не расходовать лишние ресурсы на отправку каждого набора данных в облако — это то, что позволяет в итоге получить ощутимую выгоду.
Как говорит Литвак, благодаря доступности Project Brainwave на локальных устройствах, Jabil может расширить проект, вывести его за рамки пилотного и применять для всех производственных операций.
Кроме прочего, Jabil ищет способы использования ИИ в Project Brainwave для более точного определения приближающихся сроков обслуживания производственных систем, чтобы сокращать время простоя.
От исследований до выпуска продукта
Общедоступная предварительная версия Project Brainwave выходит через пять лет после того, как Дуг Бюргер, бывший академический ученый, а теперь руководитель исследовательской группы в Microsoft, впервые предложил использовать FPGA для повышения эффективности вычислений. Пока он вынашивал эту идею, в области ИИ произошли большие сдвиги. Появился большой спрос на системы, способные обрабатывать огромные объемы данных, необходимые приложениям на основе ИИ для сканирования документов и изображений, распознавания речи, перевода текстов на другие языки и выполнения многих других задач.
Бюргер говорит, что Project Brainwave идеально подходит для удовлетворения вычислительных потребностей ИИ. Аппаратную архитектуру Project Brainwave можно быстро совершенствовать, перестраивая структуру FPGA после каждого улучшения, идя в ногу с последними достижениями и удовлетворяя требования динамично меняющихся алгоритмов ИИ.
FPGA можно быстро перепрограммировать с учетом новых открытий в области ИИ, благодаря чему микросхемы этого типа лучше других подходят для столь стремительно развивающейся индустрии.
По всем прогнозам, спрос на системы, способные быстро и с приемлемыми расходами решать задачи ИИ, будет только расти. Поэтому компании ищут всё новые возможности для применения ИИ, например для анализа неструктурированных данных, таких как видео, и разрабатывают все более сложные алгоритмы ИИ, способные, например, находить в видеопотоке кадры с городами, стоящими на берегах океанов.
«Нам будет нужно все больше и больше вычислительной мощности», — говорит Бюргер.
От Bing и Azure до любого бизнеса
Когда Бюргер и его команда начали работать над проектом, превратившимся в Project Brainwave, микросхемы FPGA не были новинкой, но никто еще не рассматривал всерьез возможность их использования для крупномасштабных вычислений. Поэтому надо было доказать, что в использовании FPGA есть практический смысл.
Для работы над проектом, сначала получившим название Project Catapult, команда Бюргера нашла партнеров — разработчиков поисковой системы Bing и облачной платформы Azure.
Эрик Чанг, старший исследователь из группы Microsoft Silicon Systems Futures и технический руководитель Project Brainwave, охарактеризовал Bing как систему, «стесненную лишь малой задержкой». Это означает, что пользователь Bing вводит поисковый запрос и ожидает, что получит результат почти мгновенно.
Поэтому инженеры, работающие над Bing, постоянно ищут способы повысить качество поиска, не задерживая выдачу результатов ни на одну миллисекунду, тогда как объем и сложность данных, которые приходится обрабатывать поисковой системе, только растут.
С помощью FPGA разработчикам удалось быстро встроить в Bing поисковые технологии на основе глубоких нейронных сетей и значительно ускорить выдачу результатов поиска.
«Это стало возможным только благодаря программируемым микросхемам», — говорит Стив Рейнхардт, менеджер по разработке оборудования и ведущий специалист по аппаратному ускорению Bing.
Тед Вэй, старший менеджер программ Azure Machine Learning, говорит, что программируемые микросхемы имеют еще одно большое преимущество: их можно легко перепрограммировать, когда появляются новые достижения, тогда как другое оборудование приходится полностью обновлять, что может занимать месяцы или годы.
Последние несколько лет микросхемы FPGA используются и для ускорения работы облачных сетей Azure.
ИИ для геопространственного анализа в реальном времени
Для многих потребителей самое большое преимущество Project Brainwave — это возможность использовать ИИ для анализа данных по мере их поступления в режиме реального времени.
Компания Esri, разрабатывающая продукты для геопространственного анализа данных, использует средства обработки трафика в реальном времени, чтобы разделять земельные участки по категориям, таким как «здания», «лес» и «вода», и прогнозировать время прибытия тысяч транспортных средств.
Эти проекты требуют анализа больших объемов разнородных данных, полученных из разных источников, включая спутниковую съемку, видеонаблюдение и различные датчики. Хотя существуют методы необходимого объединения данных из разных источников, интенсивность необходимых вычислений может приводить к задержкам.
Омар Махер, ведущий аналитик Esri, говорит, что ИИ позволяет быстро выполнять более глубокий и точный анализ и получать больше результатов, чем при использовании других инструментов. Теперь сотрудники Esri могут больше времени уделять более важным задачам, например, подготавливать рекомендации для принятия решений на основе сложного анализа данных.
«Наши пользователи экономят время, усилия и деньги, поэтому могут сконцентрироваться на решении действительно важных задач», — говорит Махер.
По его словам, с улучшением продуктов на основе ИИ, потребности в обработке больших объемов данных в реальном времени только увеличиваются. Например, компания может извлекать информацию из тысяч видеопотоков, чтобы отслеживать автомобили, велосипеды, автобусы, пешеходов и другие объекты для выявления шаблонов и аномалий дорожного движения. Другой пример — анализ в реальном времени данных спутниковой съемки для обнаружения различных объектов, таких как поврежденные дома.
Поэтому Esri обсуждает с Microsoft возможности использования Project Brainwave для более эффективного и экономичного анализа данных в реальном времени с помощью ИИ.
«Мы видим здесь большой потенциал, особенно если речь идет об использовании ИИ в режиме реального времени», — говорит Махер.
