Microsoft, Anthropic, Google та OpenAI запускають форум Frontier Model Forum

Microsoft, Google, Anthropic  та OpenAI оголошують про створення Frontier Model Forum — нову галузеву організацію, яка займається забезпеченням безпечної та відповідальної розробки передових моделей штучного інтелекту. Frontier Model Forum спиратиметься на технічний та операційний досвід своїх компаній-членів, щоб принести користь всій екосистемі ІІ, наприклад, шляхом просування технічних оцінок та тестів, а також розробки загальнодоступної бібліотеки рішень для підтримки найкращих галузевих практик та стандартів  .  

Основними завданнями Форуму є: 

1. Просування досліджень безпеки ІІ  для сприяння відповідальній розробці передових моделей, мінімізації ризиків та забезпечення незалежної стандартизованої оцінки можливостей та безпеки. 
2. Виявлення передового досвіду  відповідальної розробки та розгортання передових моделей, допомагаючи громадськості зрозуміти природу, можливості, обмеження та вплив технології. 
3. Співпраця з політиками, науковцями, громадянським суспільством та компаніями  для обміну знаннями про ризики довіри та безпеки. 
4. Підтримка зусиль з розробки додатків, які можуть допомогти вирішити найбільші проблеми суспільства  , такі як пом'якшення наслідків зміни клімату та адаптація до нього, раннє виявлення та профілактика раку, а також боротьба з кіберзагрозами. 

Критерії членства 

Форум визначає передові моделі як великомасштабні моделі машинного навчання, які перевершують можливості, присутні у найсучасніших існуючих моделях, і можуть виконувати широкий спектр завдань.  

Членство у Frontier Model Forum відкрите для організацій, які: 

• Розробити та впровадити прикордонні моделі (згідно з визначенням Форуму). 
• Демонструвати тверду відданість прикордонній моделі безпеки, у тому числі за допомогою технічних та інституційних підходів. 
• Готові зробити свій внесок у просування зусиль Frontier Model Forum, у тому числі шляхом участі у спільних ініціативах та підтримки розробки та функціонування ініціативи. 

Форум запрошує організації, що відповідають цим критеріям, приєднатися до цих зусиль та співпрацювати у забезпеченні безпечної та відповідальної розробки передових моделей ІІ.  

Чим займатиметься Frontier Model Forum 

Уряди та промисловість згодні з тим, що, хоча ІІ пропонує величезні можливості для користі всього світу, для зниження ризиків потрібні відповідні заходи. Важливий внесок у ці зусилля  вже зробив У.  З.  . та уряди Великобританії, Європейський союз, ОЕСР, G7 (через процес штучного інтелекту у Хіросімі) та інші.  

Щоб розвинути ці зусилля, необхідна подальша робота над стандартами безпеки та оцінками, щоб забезпечити відповідальний розвиток та розгортання передових моделей ІІ. Форум стане одним із засобів для міжорганізаційних дискусій та дій з безпеки та відповідальності ІІ.   

Наступного року форум Frontier Model Forum зосередиться на трьох ключових сферах, щоб підтримати безпечну та відповідальну розробку передових моделей ІІ: 

Виявлення передового досвіду:  заохочуйте обмін знаннями та передовим досвідом між промисловістю, урядами, громадянським суспільством та академічними колами, приділяючи особливу увагу стандартам безпеки та методам забезпечення безпеки для зниження широкого спектру потенційних ризиків.  

Просування досліджень безпеки ІІ:  підтримайте екосистему безпеки ІІ, виявляючи найважливіші відкриті питання досліджень безпеки ІІ. Форум координуватиме дослідження для просування цих зусиль у таких галузях, як стійкість до змагань, механістична інтерпретованість, масштабований контроль, незалежний доступ до досліджень, емерджентна поведінка  та  виявлення аномалій. Спочатку основна увага приділятиметься розробці та спільному використанню загальнодоступної бібліотеки технічних оцінок та контрольних показників для передових моделей ІІ. 

Сприяння обміну інформацією між компаніями та урядами:  створіть надійні та безпечні механізми для обміну інформацією між компаніями, урядами  та  відповідними заінтересованими сторонами щодо безпеки та ризиків ІІ. Frontier Model Forum слідуватиме передовим методам відповідального розкриття інформації в таких областях, як кібербезпека. 

Кент Вокер, президент з міжнародних відносин Google і Alphabet, сказав:  «Ми раді працювати разом з іншими провідними компаніями, обмінюючись технічними знаннями для просування відповідальних інновацій у галузі штучного інтелекту. Участь компаній, урядів  та  громадянського суспільства матиме важливе значення для виконання обіцянки ІІ принести користь усім». 

Бред Сміт, віце-голова і президент Microsoft, сказав:  «  Компанії, які розробляють технологію штучного інтелекту, несуть відповідальність за те, щоб вона була безпечною, захищеною та залишалася під контролем людини. Ця ініціатива є життєво важливим кроком для об'єднання технологічного сектору у відповідальному розвитку ІІ та вирішенні проблем на благо всього людства». 

Анна Маканджу, віце-президент із глобальних питань OpenAI, сказала:  «Передові технології штучного інтелекту можуть принести величезну користь суспільству, і здатність реалізувати цей потенціал потребує нагляду та управління. Вкрай важливо, щоб компанії, які працюють зі штучним інтелектом  ,  особливо ті, які працюють над найпотужнішими моделями  ,  об'єдналися та просували продумані та адаптовані методи забезпечення безпеки, щоб потужні інструменти штучного інтелекту приносили максимально можливу користь. Це термінова робота, і цей форум має гарні  можливості  для швидких дій щодо підвищення рівня безпеки ІІ».  

Даріо Амодеї, генеральний директор Anthropic, сказав:  «Anthropic вважає, що ІІ може докорінно змінити те, як влаштований світ. Ми раді співпрацювати з промисловістю, громадянським суспільством, урядом та академічними колами, щоб сприяти безпечному та відповідальному розвитку технології. Форум Frontier Model Forum відіграватиме життєво важливу роль у координації передового досвіду та обміні дослідженнями в галузі безпеки передового ІІ». 

Як працюватиме Frontier Model Forum 

У найближчі місяці Frontier Model Forum створить Консультативну раду, яка допоможе визначити її стратегію та пріоритети, представляючи різноманітність досвіду та точок зору.  

Компанії-засновники Frontier Model Forum також створять ключові інституційні механізми, включаючи статут, управління та фінансування  ,  з робочою групою та виконавчою радою, які очолять ці зусилля. У найближчі тижні ми плануємо проконсультуватися з громадянським суспільством та урядами щодо дизайну Форуму та конструктивних способів співробітництва.  

Форум Frontier Model вітає можливість допомогти підтримати існуючі урядові та багатосторонні ініціативи, такі як процес G7 у Хіросімі, роботу ОЕСР з ризиків, стандартів та соціального впливу ІІ, а також U .З.  _ -Рада ЄС з торгівлі та технологій.  

Форум також прагнутиме спиратися на цінну роботу існуючої промисловості, громадянського суспільства  та  дослідницькі зусилля щодо кожного зі своїх напрямків роботи. Такі ініціативи, як  Партнерство в галузі ІІ  та  MLCommons,  продовжують робити важливий внесок у спільноту ІІ, а форум Frontier Model вивчатиме способи співпраці та підтримки цих та інших цінних багатосторонніх  зусиль.

Інші новини