Король Чарльз III соберет руководителей OpenAI, Nvidia и других ИИ-компаний для обсуждения угроз технологии

Король Великобритании Чарльз III на этой неделе примет руководителей ведущих компаний в сфере искусственного интеллекта для обсуждения общих принципов развития и регулирования технологии на фоне усиления дискуссии о потенциальных рисках ИИ.

К встрече должны присоединиться представители Nvidia, Google DeepMind, OpenAI и Anthropic, а также британский министр, ответственный за искусственный интеллект.

По сообщению Букингемского дворца, одной из центральных тем станет использование ИИ во благо общества с одновременной защитой человеческого достоинства. Участники также будут обсуждать, как технология может способствовать «процветанию как людей, так и планеты».

Встреча состоится в период, когда внутри самой ИИ-индустрии усиливаются споры о скорости развития новых моделей и возможности внедрения дополнительных предохранителей.

В Anthropic призвали замедлить развитие ИИ

Дискуссия активизировалась после предупреждения двух исследователей Anthropic о том, что неконтролируемое стремительное развитие искусственного интеллекта может создать экзистенциальные риски для человечества.

Генеральный директор Anthropic Дарио Амодей 12 сентября также заявил, что компаниям следует замедлить темпы разработки новых моделей.

Этому предшествовала публикация Anthropic отчета об угрозах, в котором компания описала случаи злоупотребления ее моделями Claude. По данным разработчика, технологии использовались для различных видов опасной и противоправной деятельности – от киберопераций, слежения и мошенничества до работы, связанной с созданием оружия.

Публикация усугубила споры о том, насколько далеко могут зайти добровольные ограничения со стороны самих разработчиков и нужны ли для наиболее мощных моделей обязательные международные правила.

США выступили против замедления

Сформировать единый международный подход к развитию ИИ может быть сложно из-за разных позиций крупнейших технологических государств.

Президент США Дональд Трамп 13 сентября отверг предложения по замедлению развития искусственного интеллекта.

Критически к таким инициативам отнеслись и в Китае. Государственная газета Global Times охарактеризовала призывы к ограничению темпов развития ИИ как проявление логики «холодной войны», направленной против Пекина.

Сама Великобритания пока придерживается относительно мягкого подхода к регулированию искусственного интеллекта. По этому параметру британская модель более близка к американской, чем к подходу Европейского Союза, создавшего отдельную комплексную нормативную систему для регулирования ИИ.

В то же время, Великобритания остается одним из ведущих европейских центров привлечения инвестиций в искусственный интеллект и технологические стартапы, что заставляет правительство балансировать между поддержкой развития индустрии и усилением требований к безопасности новых технологий.