Microsoft, Anthropic, Google и OpenAI запускают форум Frontier Model Forum

Microsoft, Google, Anthropic и OpenAI объявляют о создании Frontier Model Forum — новой отраслевой организации, занимающейся обеспечением безопасной и ответственной разработки передовых моделей искусственного интеллекта. Frontier Model Forum будет опираться на технический и операционный опыт своих компаний-членов, чтобы принести пользу всей экосистеме ИИ, например, путем продвижения технических оценок и тестов, а также разработки общедоступной библиотеки решений для поддержки лучших отраслевых практик и стандартов .  

Основными задачами Форума являются: 

1. Продвижение исследований безопасности ИИ для содействия ответственной разработке передовых моделей, минимизации рисков и обеспечения независимой стандартизированной оценки возможностей и безопасности. 
2. Выявление передового опыта ответственной разработки и развертывания передовых моделей, помогая общественности понять природу, возможности, ограничения и влияние технологии. 
3. Сотрудничество с политиками, учеными, гражданским обществом и компаниями для обмена знаниями о рисках доверия и безопасности. 
4. Поддержка усилий по разработке приложений, которые могут помочь решить самые большие проблемы общества , такие как смягчение последствий изменения климата и адаптация к нему, раннее выявление и профилактика рака, а также борьба с киберугрозами. 

Критерии членства 

Форум определяет передовые модели как крупномасштабные модели машинного обучения, которые превосходят возможности, присутствующие в настоящее время в самых продвинутых существующих моделях, и могут выполнять широкий спектр задач.  

Членство в Frontier Model Forum открыто для организаций, которые: 

• Разработать и внедрить пограничные модели (согласно определению Форума). 
• Демонстрировать твердую приверженность пограничной модели безопасности, в том числе с помощью технических и институциональных подходов. 
• Готовы внести свой вклад в продвижение усилий Frontier Model Forum, в том числе путем участия в совместных инициативах и поддержки разработки и функционирования инициативы. 

Форум приглашает организации, соответствующие этим критериям, присоединиться к этим усилиям и сотрудничать в обеспечении безопасной и ответственной разработки передовых моделей ИИ.  

Чем будет заниматься Frontier Model Forum 

Правительства и промышленность согласны с тем, что, хотя ИИ предлагает огромные возможности для пользы всего мира, для снижения рисков необходимы соответствующие меры. Важный вклад в эти усилия уже внес У. С . и правительства Великобритании, Европейский союз, ОЭСР, G7 (через процесс искусственного интеллекта в Хиросиме) и другие.  

Чтобы развить эти усилия, необходима дальнейшая работа над стандартами безопасности и оценками, чтобы обеспечить ответственное развитие и развертывание передовых моделей ИИ. Форум станет одним из средств для межорганизационных дискуссий и действий по безопасности и ответственности ИИ.   

В предстоящем году форум Frontier Model Forum сосредоточится на трех ключевых областях, чтобы поддержать безопасную и ответственную разработку передовых моделей ИИ: 

Выявление передового опыта: поощряйте обмен знаниями и передовым опытом между промышленностью, правительствами, гражданским обществом и академическими кругами, уделяя особое внимание стандартам безопасности и методам обеспечения безопасности для снижения широкого спектра потенциальных рисков.  

Продвижение исследований безопасности ИИ: поддержите экосистему безопасности ИИ, выявляя наиболее важные открытые вопросы исследований безопасности ИИ. Форум будет координировать исследования для продвижения этих усилий в таких областях, как устойчивость к состязаниям, механистическая интерпретируемость, масштабируемый контроль, независимый доступ к исследованиям, эмерджентное поведение и обнаружение аномалий. Первоначально основное внимание будет уделяться разработке и совместному использованию общедоступной библиотеки технических оценок и контрольных показателей для передовых моделей ИИ. 

Содействие обмену информацией между компаниями и правительствами: создайте надежные и безопасные механизмы для обмена информацией между компаниями, правительствами и соответствующими заинтересованными сторонами в отношении безопасности и рисков ИИ. Frontier Model Forum будет следовать передовым методам ответственного раскрытия информации в таких областях, как кибербезопасность. 

Кент Уокер, президент по международным отношениям Google и Alphabet, сказал: «Мы рады работать вместе с другими ведущими компаниями, обмениваясь техническими знаниями для продвижения ответственных инноваций в области искусственного интеллекта. Участие компаний, правительств и гражданского общества будет иметь важное значение для выполнения обещания ИИ принести пользу всем». 

Брэд Смит, вице-председатель и президент Microsoft, сказал: « Компании, разрабатывающие технологию искусственного интеллекта, несут ответственность за то, чтобы она была безопасной, защищенной и оставалась под контролем человека. Эта инициатива является жизненно важным шагом для объединения технологического сектора в ответственном развитии ИИ и решении проблем на благо всего человечества». 

Анна Маканджу, вице-президент по глобальным вопросам OpenAI, сказала: «Передовые технологии искусственного интеллекта могут принести огромную пользу обществу, и способность реализовать этот потенциал требует надзора и управления. Крайне важно, чтобы компании, работающие с искусственным интеллектом , особенно те, которые работают над самыми мощными моделями , объединились и продвигали продуманные и адаптируемые методы обеспечения безопасности, чтобы мощные инструменты искусственного интеллекта приносили максимально возможную пользу. Это срочная работа, и этот форум имеет хорошие возможности для быстрых действий по повышению уровня безопасности ИИ».  

Дарио Амодеи, генеральный директор Anthropic, сказал: «Anthropic считает, что ИИ может коренным образом изменить то, как устроен мир. Мы рады сотрудничать с промышленностью, гражданским обществом, правительством и академическими кругами, чтобы способствовать безопасному и ответственному развитию технологии. Форум Frontier Model Forum будет играть жизненно важную роль в координации передового опыта и обмене исследованиями в области безопасности передового ИИ». 

Как будет работать Frontier Model Forum 

В ближайшие месяцы Frontier Model Forum создаст Консультативный совет, который поможет определить его стратегию и приоритеты, представляя разнообразие опыта и точек зрения.  

Компании-основатели Frontier Model Forum также создадут ключевые институциональные механизмы, включая устав, управление и финансирование , с рабочей группой и исполнительным советом, которые возглавят эти усилия. В ближайшие недели мы планируем проконсультироваться с гражданским обществом и правительствами по поводу дизайна Форума и конструктивных способов сотрудничества.  

Форум Frontier Model приветствует возможность помочь поддержать существующие правительственные и многосторонние инициативы, такие как процесс G7 в Хиросиме, работу ОЭСР по рискам, стандартам и социальному влиянию ИИ, а также U . С . -Совет ЕС по торговле и технологиям.  

Форум также будет стремиться опираться на ценную работу существующей промышленности, гражданского общества и исследовательские усилия по каждому из своих направлений работы. Такие инициативы, как Партнерство в области ИИ и MLCommons, продолжают вносить важный вклад в сообщество ИИ, а форум Frontier Model будет изучать способы сотрудничества и поддержки этих и других ценных многосторонних усилий.

Другие новости