IBM розробила сервіс для контролю процесів, що протікають під час навчання нейронних мереж
IBM розробила сервіс для контролю процесів, що протікають у процесі навчання нейронних мереж. Система виявляє помилки, що виникають, і надає більшої прозорості причин прийнятих рішень.
Універсальний та наочний інструмент
Новий інструмент працює з популярними ІІ-фреймворками, такими як Watson, Tensorflow, SparkML, AWS SageMaker та AzureML. Сервіс реалізований на платформі IBM Cloud і допоможе контролювати процес навчання, вносячи необхідні коригування. За заявою представників компанії, ПО легко адаптувати під будь-яку архітектуру нейромережі. Більше того, система здатна автоматично пропонувати коригування вхідних даних для усунення помилок.
Сервіс показує параметри процесу навчання за допомогою наочних діаграм, що робить роботу користувача простіше. Серед відображуваних даних - поєднання факторів, прийнятих до розгляду, впевненість у прийнятому рішенні і підстави цієї впевненості. Крім того, зміни параметрів зберігаються в лог, що дозволить вивчити дії ІІ уважніше.
Сервіс контролю платний, але той час IBM заявила, що планує випустити версію продукту з відкритим вихідним кодом. Компанія декларує це як внесок у міжнародне співробітництво в усунення оман ІІ.
Проблеми довіри
Причини рішень, прийнятих штучним інтелектом, у більшості випадків приховані від кінцевого користувача. При цьому дослідження показали, що нейромережі здатні засвоювати притаманні суспільству помилки та стереотипи, наприклад, гендерні або расові. Це породило деяку недовіру до ІІ і страху втрати контролю над технологією. За даними проведеного IBM опитування, 82% відсотка підприємців розглядають питання впровадження нейромереж. Однак при цьому 60% побоюються можливих проблем, а 63% не впевнені, що зможуть достатньо впевнено керувати новими інструментами.
Так звана «проблема чорної скриньки», яка полягає в непрозорості прийнятих ІІ рішень, сприймається світовою спільнотою дуже серйозно. Роботи над підвищенням прозорості та довіри ведуться досить активно. У вересні 2018 року вчені MIT опублікували свою розробку, що ілюструє процес прийняття рішень нейромережею.
