Штучний інтелект у режимі реального часу: Microsoft представила Project Brainwave
Штучний Інтелект у режимі реального часу: Microsoft представила Project Brainwave
Щодня тисячі гаджетів сходять зі складальних ліній заводів виробничої компанії Jabil на шляху до споживачів.
Автоматизована система оптичного контролю перевіряє цю продукцію, намагаючись знайти будь-які дефекти та аномалії. Всі вироби, які викликали в автоматики сумніви, обов'язково перевіряються вручну.
Через високу швидкість конвеєра у людей, які виконують цю перевірку, є всього кілька секунд, щоб визначити, чи справді виріб має дефекти.
Допомогти у вирішенні цього завдання може проект Microsoft Project Brainwave. Це апаратна архітектура, розроблена для прискорення обчислень, що виконуються штучним інтелектом (ІІ) у реальному часі. У Project Brainwave використовуються спеціальні мікросхеми виробництва Intel- програмовані вентильні матриці (field programmable gate array, FPGA), що дозволяють проводити аналіз методами ІІ в режимі реального часу, причому з прийнятними витратами та з найнижчою затримкою в галузі (це можна стверджувати на підставі внутрішніх вимірів продуктивності та їх порівняння із загальнодоступною інформацією інших організацій ).
На конференції-розробників Build Microsoft, що відбулася 7–9 травня в Сіетлі, оголосила про випуск попередньої версії Project Brainwave, інтегрованої з платформою машинного навчання Azure Machine Learning і що робить Azure найефективнішою хмарною платформою для ІІ.
Марк Руссинович, технічний директор Microsoft Azure, каже, що попередня версія Project Brainwave знаменує початок розробок Microsoft із застосування широких можливостей FPGA у різних цілях.
«Я вважаю, це перший крок до перетворення FPGA на споживчу платформу ширшого застосування», — каже Руссинович.
Компанія Jabil співпрацює з Microsoft, вивчаючи, які можливості відкриває Project Brainwave щодо використання ІІ для швидкого сканування та точного виявлення помилкових спрацьовувань при контролі якості продукції, тобто відбракування виробів, які насправді не мають дефектів. Точніша система аналізу дозволить звільнити співробітників, які вручну шукають дефекти, для виконання складніших завдань.
Заощаджені секунди складаються у відчутний результат, а для виробництва важливі будь-які способи підвищення ефективності, які йдуть на користь споживачам.
«У нашій галузі дуже висока конкуренція, тому нам буде корисно все те, що дає споживачам якісь переваги», — говорить Райан Литвак, ІТ-менеджер Jabil.
Попередня версія Project Brainwave дозволяє швидко розпізнавати зображення для різних цілей, включаючи те, що потрібно Jabil. З'являється можливість проводити обчислення на основі ІІ в реальному часі замість того, щоб розділяти завдання на невеликі частини і виконувати їх окремо. Проект працює на основі TensorFlow, однієї з найпоширеніших обчислювальних платформ для ІІ, яка використовує глибокі нейронні мережі, що грубо моделюють роботу людського мозку. Крім того, Microsoft працює над додаванням підтримки Microsoft Cognitive Toolkit ще однієї популярної платформи для глибокого навчання.
Microsoft оголосила також про випуск обмеженої попередньої версії Project Brainwave для розумних сенсорів (Intelligent Edge). В результаті користувачі отримають вигоду від прискорення обчислень, що виробляються безпосередньо на їхніх підприємствах, навіть якщо відповідні системи не підключені до мережі чи Інтернету.«Ми робимо ІІ доступним в реальному часі для наших споживачів — і в хмарі, і на власних пристроях»,— каже Дуг Бюргер, авторитетний інженер Microsoft, керівник групи, яка першою запропонувала використовувати FPGA для роботи з ІІ.
>Як говорить Литвак, доступність Project Brainwave на розумних сенсорах дозволяє Jabil використовувати цю систему безпосередньо у виробничих приміщеннях, що дуже важливо для забезпечення практичності та прибутковості всіх операцій.
Jabil — одна з найбільших та технологічно розвинених виробничих компаній у світі. Клієнти звертаються до Jabil з бізнес-планами різного ступеня готовності від начерків і ескізів до повноцінних продуктів, готових до збирання. Усіх клієнтів об'єднує бажання втілити свої проекти у життя максимально ефективно та з найбільшою економічною віддачею. Тому можливість заощадити навіть мілісекунду на кожній операції і не витрачати зайві ресурси на відправку кожного набору даних у хмару — це те, що дозволяє отримати відчутну вигоду.
Як каже Литвак, завдяки доступності Project Brainwave на локальних пристроях, Jabil може розширити проект, вивести його за рамки пілотного та застосовувати для всіх виробничих операцій.
Крім іншого, Jabil шукає способи використання ІІ в Project Brainwave для більш точного визначення термінів обслуговування виробничих систем, що наближаються, щоб скорочувати час простою.
Від досліджень до випуску продукту
Загальнодоступна попередня версія Project Brainwave виходить через п'ять років після того, як Дуг Бюргер, колишній академічний вчений, а тепер керівник дослідницької групи Microsoft, вперше запропонував використовувати FPGA для підвищення ефективності обчислень. Поки він виношував цю ідею, в області ІІ сталися великі зрушення. З'явився великий попит на системи, здатні обробляти величезні обсяги даних, необхідні додаткам на основі ІІ для сканування документів та зображень, розпізнавання мови, перекладу текстів іншими мовами та виконання багатьох інших завдань.
Бюргер каже, що Project Brainwave ідеально підходить для задоволення обчислювальних потреб ІІ. Апаратну архітектуру Project Brainwave можна швидко вдосконалювати, перебудовуючи структуру FPGA після кожного поліпшення, йдучи в ногу з останніми досягненнями та задовольняючи вимоги алгоритмів ІІ, що динамічно змінюються.
FPGA можна швидко перепрограмувати з урахуванням нових відкриттів в області ІІ, завдяки чому мікросхеми цього типу краще за інших підходять для такої індустрії, що стрімко розвивається.
За всіма прогнозами, попит на системи, здатні швидко і з прийнятними витратами вирішувати завдання ІІ, тільки зростатиме. Тому компанії шукають нові можливості для застосування ІІ, наприклад для аналізу неструктурованих даних, таких як відео, і розробляють все більш складні алгоритми ІІ, здатні, наприклад, знаходити в відеопотоці кадри з містами, що стоять на берегах океанів.
«Нам буде потрібно все більше і більше обчислювальної потужності», — каже Бюргер.
Від Bing та Azure до будь-якого бізнесу
Коли Бюргер та його команда почали працювати над проектом, що перетворився на Project Brainwave, мікросхеми FPGA не були новинкою, але ніхто ще не розглядав серйозно можливість їх використання для великомасштабних обчислень. Тому треба було довести, що у використанні FPGA є практичне значення.
Для роботи над проектом, що спочатку отримав назву Project Catapult, команда Бюргера знайшла партнерів — розробників пошукової системи Bing та хмарної платформи Azure.
Ерік Чанг, старший дослідник із групи Microsoft Silicon Systems Futures та технічний керівник Project Brainwave, охарактеризував Bing як систему, «стиснуту лише малою затримкою». Це означає, що користувач Bing вводить пошуковий запит і очікує, що отримає результат майже миттєво.
Тому інженери, які працюють над Bing, постійно шукають способи підвищити якість пошуку, не затримуючи видачу результатів на жодну мілісекунду, тоді як обсяг і складність даних, які доводиться обробляти пошуковій системі, тільки зростають.
За допомогою FPGA розробникам вдалося швидко вбудувати в Bing пошукові технології на основі глибоких нейронних мереж та значно прискорити видачу результатів пошуку.
«Це стало можливим лише завдяки програмованим мікросхемам», — каже Стів Рейнхардт, менеджер з розробки обладнання та провідний спеціаліст з апаратного прискорення Bing.
Тед Вей, старший менеджер програм Azure Machine Learning, каже, що програмовані мікросхеми мають ще одну велику перевагу: їх можна легко перепрограмувати, коли з'являються нові досягнення, тоді як інше обладнання доводиться повністю оновлювати, що може тривати місяці чи роки.< /p>
Останні кілька років мікросхеми FPGA використовуються і для прискорення роботи хмарних мереж Azure.
ІІ для геопросторового аналізу в реальному часі
Для багатьох споживачів найбільша перевага Project Brainwave — це можливість використовувати ІІ для аналізу даних у міру їх надходження у режимі реального часу.
Компанія Esri, яка розробляє продукти для геопросторового аналізу даних, використовує засоби обробки трафіку в реальному часі, щоб розділяти земельні ділянки за категоріями, такими як «будівлі», «ліс» та «вода», та прогнозувати час прибуття тисяч транспортних засобів.
Ці проекти вимагають аналізу великих обсягів різнорідних даних, отриманих із різних джерел, включаючи супутникову зйомку, відеоспостереження та різні датчики. Хоча існують методи необхідного об'єднання даних із різних джерел, інтенсивність необхідних обчислень може призводити до затримок.
Омар Махер, провідний аналітик Esri, каже, що ІІ дозволяє швидко виконувати більш глибокий і точний аналіз і отримувати більше результатів, ніж при використання інших інструментів. Наразі співробітники Esri можуть більше часу приділяти важливим завданням, наприклад, готувати рекомендації для прийняття рішень на основі складного аналізу даних.
«Наші користувачі економлять час, зусилля та гроші, тому можуть сконцентруватися на вирішенні справді важливих завдань», — каже Махер.
За його словами, з покращенням продуктів на основі ІІ, потреби в обробці великих обсягів даних у реальному часі лише збільшуються. Наприклад, компанія може витягувати інформацію із тисяч відеопотоків, щоб відстежувати автомобілі, велосипеди, автобуси, пішоходів та інші об'єкти для виявлення шаблонів та аномалій дорожнього руху. Інший приклад — аналіз у реальному часі даних супутникової зйомки для виявлення різних об'єктів, таких як пошкоджені будинки.
Тому Esri обговорює з Microsoft можливості використання Project Brainwave для більш ефективного та економічного аналізу даних у реальному часі за допомогою ІІ.
«Ми бачимо тут великий потенціал, особливо якщо йдеться про використання ІІ в режимі реального часу», — каже Махер.
