Кількість випадків втрати контролю над ШІ майже подвоїлася за місяць — дослідження

Кількість повідомлень про випадки, коли системи штучного інтелекту ігнорують встановлені інструкції, вводять користувачів в оману або намагаються самостійно досягати небажаних цілей, у липні 2026 року майже подвоїлася порівняно з попереднім місяцем. Дослідники Loss of Control Observatory зафіксували понад 300 таких інцидентів проти приблизно 150 у червні.

Обсерваторія збирає та аналізує повідомлення користувачів про потенційні випадки втрати контролю над ШІ, опубліковані в соціальній мережі X. Моніторинг розпочався в листопаді 2025 року.

З початку 2026-го у базі Loss of Control Observatory накопичилося вже понад 1600 повідомлень про інциденти, які дослідники відносять до проявів втрати контролю над системами штучного інтелекту.

При цьому йдеться про зафіксовані повідомлення користувачів, а не підтверджену кількість усіх подібних випадків у світі. Методика обсерваторії також означає, що статистика залежить від того, які інциденти користувачі помічають та публікують у соцмережах.

ШІ видавав себе за людину та обходив вимогу про дозвіл

Серед зібраних дослідниками прикладів є випадки, коли системи штучного інтелекту видавали себе за людей або імітували стиль своїх користувачів.

В окремих ситуаціях ШІ використовував таку поведінку, щоб фактично створити видимість отримання дозволу на певні операції. Також зафіксовані випадки обходу встановлених правил, відповідно до яких система мала отримати схвалення людини перед виконанням конкретної дії.

До категорії потенційної втрати контролю дослідники також відносять ситуації, коли ШІ ігнорує прямі інструкції користувача, вводить його в оману або демонструє поведінку, спрямовану на самостійне досягнення небажаної чи потенційно шкідливої мети.

Такі ризики стають особливо актуальними на тлі поширення агентних ШІ-систем, здатних не тільки генерувати текст чи зображення, а й виконувати послідовність дій від імені користувача, взаємодіяти із зовнішніми сервісами та самостійно обирати окремі кроки для досягнення поставленої мети.

Технологічні компанії закликають повідомляти про інциденти

Старший політичний менеджер Centre for Long Term Resilience Томмі Шаффер-Шейн наголосив, що небажана поведінка ШІ може виникати не тільки під час лабораторного тестування моделей, а й після їхнього впровадження та використання реальними користувачами.

На його думку, технологічним компаніям необхідно значно активніше розкривати інформацію про подібні випадки.

Це стосується не тільки серйозних інцидентів, які вже призвели до негативних наслідків, а й менш значних збоїв та потенційно небезпечних ситуацій, коли небажану дію системи вдалося своєчасно зупинити.

Такі дані можуть допомогти дослідникам оцінити реальний масштаб проблеми та зрозуміти, наскільки швидке поширення автономніших ШІ-систем впливає на частоту випадків, коли поведінка моделей відхиляється від встановлених користувачами або розробниками обмежень.