Команда PAIR (People + AI ReserachI) представила What-If Tool – новий інструмент для виявлення упередженості у моделях штучного інтелекту
Команда PAIR (People + AI ReserachI) представила What-If Tool - новий інструмент для виявлення упередженості в моделях штучного інтелекту
Команда PAIR (People + AI Reserach, частина Google AI) представила What-If Tool — новий інструмент для виявлення упередженості в моделях штучного інтелекту. Він постачається як частина веб-додатку TensorBoard. What-If Tool візуалізує вплив певних даних на передбачення моделі, при цьому доступний для тих, хто не розуміється на програмуванні.
Що пропонує What-If Tool?
- Автоматично візуалізувати набір даних із використанням Facets.
- Редагувати окремі приклади з набору та відстежувати, як це відображається на результатах.
- Автоматично створювати графіки часткових залежностей, що відображають зміни в передбаченні моделі при зміні будь-якої однієї властивості.
- Порівнювати найбільш схожі приклади з датасету, для яких модель дала різні передбачення.
Повний список можливостей розробники вказали на сторінці проекту.
Перевірити роботу інструменту можна на заздалегідь навчених алгоритмах:
- моделі багатокласової класифікації;
- моделі класифікації зображень;
- регресійної моделі.
Вчені та дослідники в області штучного інтелекту звертають пильну увагу на якість та різноманітність даних, що використовуються для тренування алгоритмів. Іноді упередження потрапляє в результати непомітно. Так нейромережі, які розпізнають текст і мова, «підхопили» з датасетів стереотипи про гендерні ролі людей, після чого розробникам довелося шукати спеціальне рішення.
