Pymetrics опубликовала инструмент Audit AI для анализа алгоритмов

Pymetrics опубликовала инструмент Audit AI, разработанный для обнаружения смещения в алгоритмах ИИ. ПО предназначено для определения статистической значимости данных, предоставленных нейросети.

Инструмент Audit AI для анализа алгоритмов способен проверять множество алгоритмов, вплоть до систем, способных высчитать вероятность получения кредита. Audit AI способен только найти дисбаланс в работе кода, но исправление ошибки остаётся за разработчиком.

Изначально ПО было разработано для проверки инструкций, созданных Pymetrics и предназначенных для выявления кандидатов, подходящих на должность в компании. Для составления этих алгоритмов разработчики предложили руководителям компаний пройти опрос. С помощью проведенного тестирования удалось выявить показания более 90 когнитивных и эмоциональных признаков.