Дізнайтеся, як штучний інтелект охарактеризує вашу особистість на вигляд
Дізнайтеся, як штучний інтелект охарактеризує вашу особистість на вигляд
У 2009 році група вчених зі Стенфорда та Прінстона вирішила навчити комп'ютери розпізнавати різні об'єкти. І тому їм знадобилося безліч зображень тварин, рослин, предметів, і навіть людей. Кожній з фотографій було присвоєно свою категорію, після чого їх можна було використовувати в машинному навчанні.
В результаті вийшов набір даних під назвою ImageNet, що складається з більш ніж 14 млн зображень. Усі вони були згруповані у понад 20 тисяч категорій, до кожної з яких увійшла в середньому тисяча фотографій. ImageNet став цитованим у наукових статтях набором даних — дослідники посилалися на нього понад 12 тисяч разів.
При цьому, як уже згадувалося, до нього входять не тільки неживі об'єкти: в ImageNet є майже 3 тисячі категорій, що характеризують людей. Серед них присутні і відносно невинні описи, наприклад, «черлідер» або «бойскаут».
Але багато категорій, які були створені за допомогою виконавців-людей з платформи Mechanical Turk від Amazon, викликають глибоке занепокоєння. "Погана людина", "лицемір", "невдаха", "наркоман", "боржник" і "слабак" - так звучать їх назви, і в кожній групі є зображення людей, взяті з Flickr та з інших соцмереж і використовуються без їх відома .
ImageNet та інші набори даних для навчання нейромереж, історія яких сягає 1960-х років, і стали головною темою нової виставки фонду Prada під назвою Training Humans («Навчання людей»). Її куратори - дослідник Кейт Кроуфорд і художник Тревор Паглен. Відвідувачам пропонують переглянути фотографії, які забезпечують роботу систем комп'ютерного зору та розпізнавання осіб, а також дізнатися, ким бачить їх ІІ, навчений на зображеннях з бази ImageNet.
Для людей, у яких не вдасться відвідати Мілан, Кроуфорд та Паглен створили онлайн-інструмент під назвою ImageNet Roulette https://imagenet-roulette.paglen.com/, який також класифікує людей за категоріями ImageNet. У ньому можна сфотографуватися на веб-камеру або завантажити готовий знімок.
Кроуфорд і Паглен продемонстрували роботу програми на початку цього року на прикладі своїх власних портретів та фотографії розробника Лейфа Ризі, який її й створив. Кроуфорд ІІ назвав «героїнею», Паглена — «членом ку-клукс-клану», Ризі — «жахливим», «безпритульним» та «анархістом».
Кроуфорд і Паглен сподіваються спростувати поширене переконання, що ІІ-класифікація людей нейтральна. Кроуфорд підкреслює, що у навчанні алгоритмів було задіяно суб'єктивний досвід виконавців, які розмічали фотографії.
Хоча багато наборів даних для машинного навчання мають серйозні недоліки, вони все одно продовжують використовуватися як ученими, так і бізнесом. Але Кроуфорд має деякі ідеї для покращення ситуації, щоб у майбутньому дослідники, принаймні, знали про існуючі проблеми.
У 2018 році вона співпрацювала з вісьмома іншими вченими в проекті зі створення нових міток для фотографій. Вони повідомляють, звідки їх взяли, чи давала зображена на них людина згода на це і таке інше. Такі ярлики вже почали застосовуватися, хоча загалом це дуже маленький крок до усвідомленого використання зображень для навчання ІІ.
Для Паглена питання про те, як зробити набори даних для ІІ менш примітивними та неточними, глобальнішими. Оскільки він вважає, що технології не можуть бути нейтральними, то пропонує розробникам ІІ-систем поставити питання, чи дійсно класифікація людей є частиною роботи, якою вони хочуть займатися.
