Количество случаев потери контроля над ИИ почти удвоилось за месяц

Количество сообщений о случаях, когда системы искусственного интеллекта игнорируют установленные инструкции, вводят пользователей в заблуждение или пытаются самостоятельно достигать нежелательных целей, в июле 2026 почти удвоилось по сравнению с предыдущим месяцем. Исследователи Loss of Control Observatory зафиксировали более 300 таких инцидентов против примерно 150 в июне.

Обсерватория собирает и анализирует сообщения пользователей о потенциальных случаях потери контроля над ИИ, опубликованных в социальной сети X. Мониторинг начался в ноябре 2025 года.

С начала 2026 г. в базе Loss of Control Observatory накопилось уже более 1600 сообщений об инцидентах, которые исследователи относят к проявлениям потери контроля над системами искусственного интеллекта.

При этом речь идет о зафиксированных сообщениях пользователей, а не о подтвержденном количестве всех подобных случаев в мире. Методика обсерватории означает, что статистика зависит от того, какие инциденты пользователи замечают и публикуют в соцсетях.

ИИ выдавал себя за человека и обходил требование о разрешении

Среди собранных исследователями примеров есть случаи, когда системы искусственного интеллекта выдавали себя за людей или имитировали стиль своих пользователей.

В отдельных ситуациях ИИ использовал такое поведение, чтобы фактически создать видимость получения разрешения на определенные операции. Также зафиксированы случаи обхода установленных правил, согласно которым система должна получить одобрение человека перед выполнением конкретного действия.

К категории потенциальной потери контроля исследователи также относят ситуации, когда ИИ игнорирует прямые инструкции пользователя, вводит его в заблуждение или демонстрирует поведение, направленное на самостоятельное достижение нежелательной или потенциально вредной цели.

Такие риски становятся особенно актуальными на фоне распространения агентных ИИ систем, способных не только генерировать текст или изображение, но и выполнять последовательность действий от имени пользователя, взаимодействовать с внешними сервисами и самостоятельно выбирать отдельные шаги для достижения поставленных целей.

Технологические компании призывают сообщать об инцидентах

Старший политический менеджер Centre for Long Term Resilience Томми Шаффер-Шейн подчеркнул, что нежелательное поведение ИИ может возникать не только при лабораторном тестировании моделей, но и после их внедрения и использования реальными пользователями.

По его мнению, технологическим компаниям необходимо более активно раскрывать информацию о подобных случаях.

Это касается не только серьезных инцидентов, которые привели к негативным последствиям, но и менее значительным сбоям и потенциально опасным ситуациям, когда нежелательное действие системы удалось своевременно остановить.

Такие данные могут помочь исследователям оценить реальный масштаб проблемы и понять, насколько быстрое распространение более автономных ИИ-систем влияет на частоту случаев, когда поведение моделей отклоняется от установленных пользователями или разработчиками ограничений.