Meta створила систему штучного інтелекту, здатну швидко адаптуватися до нових видів шкідливого контенту
Meta створила систему штучного інтелекту, яка може швидко адаптуватися до нових типів шкідливого контенту
Meta створила систему штучного інтелекту, здатну швидко адаптуватися до нових типів шкідливого контенту, включаючи пости із закликами відмовитися від вакцинації від COVID-19. При цьому ШІ виявлятиме не лише завідомо шкідливі матеріали, а й приховану дезінформацію.
Якщо для навчання штучного інтелекту зазвичай потрібні величезні обсяги даних, а процес обробки інформації може зайняти місяці, то технологія Few-Shot Learner потребує лише невеликої добірки даних – шкідливий контент буде автоматично розпізнаний через кілька тижнів.
Наприклад, правила соціальної мережі можуть обмежити публікацію постів, що повідомляють про небезпеку вакцин проти COVID-19, включаючи твердження про те, що вакцина змінює ДНК. При цьому деякі користувачі перефразують висловлювання на питання на кшталт «Вакцина або засіб зміни ДНК?» або навіть використовують кодові слова для того, щоб приховати сенс висловлювань від машин. За даними Meta, нова технологія дозволить виявити контент, який намагаються приховати від штучного інтелекту.
«Якщо ми реагуємо швидше, ми зможемо вжити заходів або модерувати контент більш своєчасно. В кінцевому підсумку головна мета - безпека користувачів», - говорить Мета.
Створення нової системи ШІ допоможе соціальній мережі уникнути критики – багато хто вважає, що Meta робить недостатньо для боротьби з дезінформацією.
Як повідомляє Meta, компанія протестувала нову систему, і вона змогла розпізнати контент, який не здатний «бачити» звичайні алгоритми ШІ. Стверджується, що після впровадження нової розробки в Facebook і Instagram відсоток переглядів шкідливих матеріалів значно знизився. Few-Shot Learner «вивчив» понад 100 мов, тому він може ідентифікувати дезінформацію навіть там, де даних для навчання ШІ набагато менше, ніж в англомовному сегменті.
Оскільки Facebook має намір побудувати метавсесвіт, модерація контенту у віртуальному просторі стане складнішою, але врешті-решт Meta очікує, що там також можна застосувати алгоритми Few-Shot Learner – головне завдання полягає в тому, щоб ефективно навчати комп'ютери все меншій кількості інформації.
