Узнайте, как искусственный интеллект охарактеризует вашу личность по внешнему виду
Узнайте, как искусственный интеллект охарактеризует вашу личность по внешнему виду
В 2009 году группа ученых из Стэнфорда и Принстона решила научить компьютеры распознавать различные объекты. Для этого им потребовалось множество изображений животных, растений, предметов, а также людей. Каждой из фотографий была присвоена своя категория, после чего их можно было использовать в машинном обучении.
В результате получился набор данных под названием ImageNet, состоящий из более чем 14 млн изображений. Все они были сгруппированы в более чем 20 тысяч категорий, в каждую из которых вошла в среднем тысяча фотографий. ImageNet стал самым цитируемым в научных статьях набором данных — исследователи ссылались на него более 12 тысяч раз.
При этом, как уже упоминалось, в него входят не только неодушевленные объекты: в ImageNet есть почти 3 тысячи категорий, характеризующих людей. Среди них присутствуют и относительно безобидные описания, например «чирлидер» или «бойскаут».
Но многие категории, которые были созданы с помощью исполнителей-людей с платформы Mechanical Turk от Amazon, вызывают глубокое беспокойство. «Плохой человек», «лицемер», «неудачник», «наркоман», «должник» и «слабак» — так звучат их названия, и в каждой группе есть изображения людей, взятые с Flickr и из других соцсетей и используемые без их ведома.
ImageNet и другие наборы данных для обучений нейросетей, история которых восходт к 1960-м годам, и стали главной темой новой выставки фонда Prada под названием Training Humans («Обучение людей»). Ее кураторы — исследователь Кейт Кроуфорд и художник Тревор Паглен. Посетителям предлагают посмотреть фотографии, которые обеспечивают работу систем компьютерного зрения и распознавания лиц, а также узнать, кем видит их ИИ, обученный на изображениях из базы ImageNet.
Для людей, у которых не получится посетить Милан, Кроуфорд и Паглен создали онлайн-инструмент под названием ImageNet Roulette https://imagenet-roulette.paglen.com/, который также классифицирует людей по категориям ImageNet. В нем можно сфотографироваться на веб-камеру или загрузить уже готовый снимок.
Кроуфорд и Паглен продемонстрировали работу программы в начале этого года на примере своих собственных портретов и фотографии разработчика Лейфа Риге, который ее и создал. Кроуфорд ИИ назвал «героиней», Паглена — «членом ку-клукс-клана», Риге — «жутким», «бездомным» и «анархистом».
Кроуфорд и Паглен надеются опровергнуть распространенное убеждение, что ИИ-классификация людей нейтральна. Кроуфорд подчеркивает, что в обучении алгоритмов был задействован субъективный опыт исполнителей, размечавших фотографии.
Хотя многие наборы данных для машинного обучения обладают серьезными недостатками, они все равно продолжают использоваться как учеными, так и бизнесом. Но у Кроуфорд есть некоторые идеи для улучшения ситуации, чтобы в будущем исследователи, по крайней мере, знали о существующих проблемах.
В 2018 году она сотрудничала с восемью другими учеными в проекте по созданию новых меток для фотографий. Они сообщают, откуда их взяли, давал ли изображенный на них человек согласие на это и так далее. Такие ярлыки уже начали применяться, хотя в целом это очень маленький шаг к осознанному использованию изображений для обучения ИИ.
Для Паглена вопрос о том, как сделать наборы данных для ИИ менее примитивными и неточными, глобальнее. Поскольку он считает, что технологии не могут быть нейтральными, то предлагает разработчикам ИИ-систем задаться вопросом, действительно ли классификация людей является частью работы, которой они хотят заниматься.
