Trend Micro підготувала доповідь Exploiting AI: How Cybercriminals Misuse and Abuse AI and ML
Trend Micro підготувала звіт «Експлуатація ШІ: як кіберзлочинці зловживають і зловживають AI і ML»
Trend Micro Incorporated, Європол та Міжрегіональний науково-дослідний інститут злочинності та правосуддя ООН (UNICRI) підготували спільну доповідь про використання штучного інтелекту (ШІ) у незаконній діяльності – Експлуатація ШІ: як кіберзлочинці зловживають та зловживають штучним інтелектом та машиною і знущатися над ними»). У доповіді описані існуючі сценарії використання ШІ в злочинних цілях, можливі варіанти розвитку кіберзлочинних інструментів в майбутньому, а також методи боротьби з ними, які будуть корисні представникам правоохоронних органів, державних та інших організацій.
«ШІ може допомогти світу підвищити ефективність процесів у найрізноманітніших сферах, рівень їх автоматизації та загальну автономність. Зараз громадськість все більше стурбована сценаріями зловживання ШІ, тому треба відкрито говорити про можливі загрози, але і не забувати про потенційні переваги технологій штучного інтелекту », - зазначив Глава Центру по боротьбі з кіберзлочинністю, що входить в Європол, Едвардас Шілеріс. – Цей звіт дає нам можливість передбачити можливі зловживання ШІ та методи його використання в незаконних цілях, а також своєчасно запобігти цим загрозам. Тільки так ми зможемо розкрити весь потенціал технології та отримати вигоду від її впровадження у світі».
У звіті йдеться , що кіберзлочинці будуть використовувати ШІ і як вектор, і як поверхню атаки. В даний час deepfakes залишаються найвідомішим сценарієм використання ШІ як вектора атаки. Однак, на думку авторів доповіді, в майбутньому будуть потрібні нові технології перевірки даних, які допоможуть боротися з дезінформаційними кампаніями і спробами вимагання, а також загрозами, спрямованими безпосередньо на набори даних ШІ.
Ось лише кілька прикладів використання ШІ в злочинних цілях: масштабні і правдоподібні атаки з використанням соціальної інженерії; Шкідливе ПРОГРАМНЕ ЗАБЕЗПЕЧЕННЯ для знищення документів, що підвищує ефективність кіберзлочинних атак обман систем розпізнавання зображень і голосу; Допомога в пошуку цілей і ухиленні від систем захисту під час атак програм-вимагачів ; «забруднення» масивів даних за рахунок виявлення сліпих зон в правилах виявлення.
«Застосування ШІ починає мати цілком реальний вплив на наш світ, і стає зрозуміло, що ця технологія стане однією з фундаментальних в майбутньому людства», – зазначив Іраклій Берідзе, керівник Центру штучного інтелекту і робототехніки UNICRI. «Однак загроза зловмисного використання ШІ є не менш реальною для суспільства, ніж користь від його використання. Для нас велика честь співпрацювати з Європолом та Trend Micro і спільно пролити світло на темну сторону технологій штучного інтелекту, щоб стимулювати подальшу дискусію на цю важливу тему».
У звіті також йдеться про те, що вже розробляються системи на основі штучного інтелекту, які повинні підвищити ефективність шкідливих програм і перешкоджати роботі антивірусів і технологій розпізнавання облич.
«Кіберзлочинці завжди першими переймали новітні технології, і ШІ не є винятком. У нашому звіті йдеться про те, що ШІ вже використовується для вгадування паролів, злому CAPTCHA і клонування голосу, а в розробці ще багато інноваційних інструментів», – сказав Мартін Розлер, керівник відділу досліджень перспектив загроз Trend Micro . « Ми пишаємося тим, що об'єднуємо зусилля з Європолом та UNICRI, щоб підвищити обізнаність про ці загрози та допомогти створити безпечне цифрове майбутнє для людства».
Наприкінці доповіді автори дають кілька рекомендацій: потенціал технологій штучного інтелекту слід використовувати як інструмент боротьби з кіберзлочинністю з метою захисту ІНДУСТРІЇ ІТ-безпеки та правоохоронних органів у майбутньому ; необхідно продовжувати дослідження, які допоможуть розробити технології кібербезпеки; також існує потреба у популяризації та розробці безпечних середовищ дизайну ШІ; політична риторика щодо використання ШІ в цілях кібербезпеки має бути зведена до мінімуму; рекомендується активно використовувати державно-приватне партнерство та створювати мультидисциплінарні експертні групи
