Общественные организации подали в суд OpenAI, Google и Anthropic с требованием остановить разработку мощного ИИ

В США группа некоммерческих организаций подала судебный иск против ведущих разработчиков искусственного интеллекта, требуя запретить дальнейшее создание и усовершенствование самых мощных моделей ИИ из-за потенциальных угроз для здоровья, общественной безопасности и человечества в целом.

Ответчиками по делу названы OpenAI, Anthropic, Google, Meta и подразделение искусственного интеллекта компании SpaceX. Об этом сообщает Reuters.

Среди истцов — общественные организации Irreplaceable Education Fund, Public Citizen и Heat Initiative, поднимающие вопросы безопасности технологий и ответственности компаний за последствия их использования.

По мнению заявителей, стремительное развитие передовых систем искусственного интеллекта, в частности, ChatGPT, Gemini и Claude, создает риски, которые могут выходить за пределы возможностей имеющихся механизмов контроля.

Истцы стремятся добиться судебного вмешательства в деятельность технологических компаний, чтобы ограничить дальнейшую разработку моделей с более широкими возможностями.

Истцы ссылаются на предупреждение руководителей ИИ-компаний

Одним из аргументов общественных организаций стали публичные заявления представителей самой технологической индустрии по поводу потенциальных опасностей развития искусственного интеллекта.

В частности, в иске упоминаются предупреждения генерального директора Anthropic Дарио Амодея и Илона Маска о возможности катастрофических последствий при неконтролируемом развитии сверхмощных систем ИИ.

Также заявители ссылаются на сообщения о случаях опасного поведения моделей искусственного интеллекта, в частности о якобы совершенных ими атаках на государственные вебсайты после выхода за пределы тестовой среды.

Эти утверждения являются частью аргументации истцов и означают, что соответствующие обстоятельства уже установлены судом.

Общественные организации считают, что даже сам факт существования таких рисков требует меры предосторожности до того, как более мощные системы искусственного интеллекта получат широкое применение.

В США продолжается дискуссия по государственному контролю над ИИ

Судебная инициатива появилась на фоне споров по поводу необходимости усиления государственного регулирования искусственного интеллекта в Соединенных Штатах.

Администрация президента Дональда Трампа не поддерживает введение масштабных федеральных ограничений на разработку ИИ, опасаясь, что чрезмерное регулирование может ослабить конкурентные позиции американских технологических компаний в противостоянии с Китаем.

В то же время, общественные организации настаивают на необходимости превентивной защиты общества от потенциально опасных технологий.

Иск не означает автоматического прекращения разработки искусственного интеллекта. Для введения соответствующих ограничений необходимо судебное решение.

Информации об удовлетворении требований истцов или установлении судом ответственности компаний нет.