Помічниками Siri, Alexa та Google Assistant можна керувати за допомогою прихованих звукових команд
Помічниками Siri, Alexa та Google Assistant можна керувати за допомогою прихованих звукових команд
Інтелектуальні помічники Siri, Alexa та Google Assistant призначені для того, щоб людина керувала ними за допомогою голосу. Але, як повідомляє The New York Times, всі три системи сприйнятливі до прихованих команд, невловимих людських вух. Китайські та американські дослідники з'ясували, що помічниками можна керувати дозвуковими командами на радіо, у роликах на YouTube або навіть білому шумі, що несе величезну потенційну загрозу безпеці.
Голосового помічника таким чином можна змусити набрати телефонний номер, відкрити сайт, здійснити платіж або активувати прилад «розумного» будинку — наприклад, розблокувати замок дверей. Людина в цей час чутиме щось інше — починаючи від мовлення і закінчуючи музикою. В деяких випадках помічнику можна доручити зробити знімок або надіслати повідомлення. Якщо у кімнаті відчинено вікно, то штучний інтелект сприйме команду на відстані до 7,6 м.
Дослідники з Каліфорнійського університету в Берклі розповіли, що можуть вносити в аудіофайли невеликі зміни, «прибираючи звук, який мала почути система розпізнавання мови, та замінюючи її звуком, який машинами транскрибується по-різному, а для людського вуха практично непомітний» . Співробітники Прінстонського та Чжецзянського університетів удосконалили проект, приглушивши ІІ-пристрій, щоб його відповіді не були чутні користувачу.
Новизна проблеми в тому, що приховані команди майже не чути людину. Раніше у ТВ-шоу та рекламу відкрито поміщали фрази, які активували певних інтелектуальних помічників, але приховані сигнали у звуку — вже еквівалент підсвідомої реклами. Проти цього ще немає жодних законів, тож це несе потенційну загрозу.
Якщо з проблемою не розібратися, то наслідки можуть бути катастрофічними. Очікується, що до 2021 року кількість телефонів та колонок із голосовими помічниками перевищить кількість людей на планеті. До того моменту більш ніж у половині американських будинків буде один чи кілька «розумних» динаміків.
Apple, Amazon і Google вже знають про вразливість, але як саме збираються з нею боротися, невідомо. Перша каже, що її пристрої мають певні обмеження на команди, Amazon — що зробила заходи щодо безпеки колонок Echo, Google — що Assistant оснащений функціями для припинення прихованих команд.
