Microsoft, Google, OpenAI та інші великі IT-компанії уклали угоду AI safety agreement про безпеку ІІ

Найбільші технологічні компанії зібралися разом, щоб офіційно взяти на себе зобов'язання щодо безпечного розвитку штучного інтелекту. На віртуальній глобальній зустрічі, організованій лідерами Південної Кореї та Великобританії, представники OpenAI, Microsoft, Google та інших компаній зобов'язалися забезпечувати прозорість та контроль у своїй роботі.

Шістнадцять компаній визнали як величезні потенційні переваги ІІ, так і ризики, якщо він буде використовуватися не за призначенням або завдати шкоди людям. Практичні кроки були узгоджені, включаючи публікацію рамок безпеки, відмову від моделей з некерованими ризиками та координацію дій з регулюючими органами на міжнародному рівні. Мета полягає в тому, щоб забезпечити етичну поведінку систем штучного інтелекту та уникнути будь-якої ненавмисної шкоди в міру розвитку технології.

До західних технологічних гігантів приєдналися компанії з Китаю та Близького Сходу, такі як Tencent, Meituan, Xiaomi та Samsung. Дослідники та інженери будуть оцінювати системи щодо упередженості або інших проблем, які можуть поставити групи в невигідне становище. Всі вони мають намір ретельно відстежувати свої моделі ІІ та отримувати різні точки зору на ризики перед їх розгортанням.

З іншого боку, політичні лідери США, ЄС, Австралії та інших країн схвалили обіцянки та запланували майбутні зустрічі для підтримки прогресу. Хоча добровільні зобов'язання є хорошим початком, політики вважають, що надалі буде потрібно деяке регулювання.

Цей крок особливо примітний для OpenAI, яка останніми днями відчуває суперечки з приводу безпеки ІІ. Буквально минулого тижня він закрив свою команду «надпогодження», яка була зосереджена на забезпеченні безпеки ІІ.

Ця новина з'явилася після того, як з OpenAI залишили дві важливі людини — Ілля Суцкевер та Ян Лейке. Лейке сказав на X, що йде, тому що відчуває, що компанія недостатньо серйозно ставиться до безпеки. Він сказав, що команда безпеки щосили намагалася отримати ресурси, необхідні для виконання своєї роботи.

Потім Сем Альтман і Грег Брокман відреагували на побоювання Яна Лейке з приводу безпеки ІІ, запевнивши громадськість, що компанія прихильна до «ретельного тестування, ретельного розгляду та заходів безпеки світового рівня».

Інші новини