IBM створила ІІ, що успішно вступає в дебати з людиною
IBM створила ІІ, що успішно вступає в дебати з людиною
На заході в Сан-Франциско IBM провела дебати, подібні до практикованих у дискусійних клубах, але між людьми та ІІ, під назвою Project Debater. Мета полягала в тому, щоб «штучний інтелект» зміг наводити обґрунтовані аргументи відповідно до правил дискусії: невідома заздалегідь тема розмови та жодних попередньо заданих відповідей. Кожна сторона виступала з чотирихвилинною вступною промовою, чотирихвилинним спростуванням аргументів опонента та двохвилинним заключним словом.
Project Debater показав себе непогано. Машина змогла проаналізувати вміст усіх даних, щоб знайти відповідну відповідь, причому «відповідь» містила переконливі факти, пов'язані з субсидуванням космосу та телемедицини та викладені у чотирьоххвилинних виступах. Проект Debater процитував джерела, які враховують зв'язок аудиторії з дітьми та ветеранами, і кілька разів пожартував на теми доповідей.
По суті алгоритм без попередньої підготовки створив за пару хвилин текст на задану тему, що відповідає рівню студента першого курсу. База знань системи включає кілька сотень мільйонів статей з 100 областей знань. Коли Project Debater отримує тему, йому потрібно кілька хвилин, щоб проаналізувати весь масив інформації, вибрати оптимальні аргументи на тему і згенерувати невелику зв'язкову мову, яка описує ці моменти.
Але це не так вражає, як спроби ІІ сперечатися з опонентом майже в реальному часі — системі знадобилося кілька хвилин, щоб проаналізувати 4-хвилинну промову співрозмовника, перш ніж виступити з відповіддю. Втім, з боку мова створювала враження, що машина вдається до таких хитрощів у суперечці, які, як правило, змушують слухачів менше довіряти доповідачеві.
Наприклад, людина-учасниця дискусії висунула тезу, що уряд не повинен субсидувати дослідження космосу. Вона поставила систему цінностей, зазначивши, що, на її думку, субсидії повинні відповідати одному з двох конкретних критеріїв: задоволенню основних потреб людини або створенню речей, які можуть бути зроблені тільки урядом. Космічні дослідження не відповідали ні тому, ні іншому.
Project Debater, мета якого в ідеалі має полягати у відповіді на поставлене запитання чи спробі спростування заданої системи цінностей, ухилився від прямої дискусії. Машина заявила, що субсидування космічних досліджень зазвичай окупається за рахунок економічного зростання від наукових досягнень, а також додала, що для країни як США наявність програми космічних досліджень — важлива частина завдань великої держави. Втім, люди теж часто йдуть у дискусіях від прямих відповідей.
Віце-президент і директор лабораторії IBM з досліджень в Алмадені Джефф Уелсер (Jeff Welser) зазначив, що Project Debater просто не розпізнав логіку аргументації опонента і тому уникнув прямої відповіді. ІІ надає бали впевненості кожної інформації, яку розпізнає. «Якби він був упевнений, що справді правильно розуміє аргументи в промові опонента, то спробував висунути дуже сильний аргумент проти цього моменту», — пояснив пан Уелсер.
В іншій дискусії, присвяченій телемедицини, Project Debater теж в один з моментів не зміг вловити точних нюансів, які навів у промові його опонент-людина, що робить акцент на важливості людської участі в діагностиці. Замість того, щоб обговорювати цю тему, ІІ використав ширший аргумент, припустивши, що, можливо, людина просто боїться новацій. «Я ж щиро вірю в силу технологій, — підсумував ІІ, — як мені і належить».
Мета експерименту IBM — показати, що вона може навчати ІІ в нових сферах досліджень, які в кінцевому підсумку можуть бути корисні на практиці. Технологія, що аналізує гору інформації виявлення аргументів за і проти, може бути використана на допомогу у прийнятті рішень про вкладення акції тієї чи іншої компанії. Інша сторона Project Debater – методи використання мови у риториці. Ці напрацювання можуть допомогти в майбутньому, наприклад, структурувати аргументацію адвокатів або виявляти фальшиві новини.
Поки що, втім, не йдеться про реальні продукти. «Це все ще дослідницький проект», - зазначив Уелсер. Втім, деякі технології, що лежать в його основі, вже починають застосовуватися в різних проектах IBM.
