OpenAI заблокировала аккаунты ChatGPT, которые использовали российские, иранские и китайские хакеры

OpenAI заявила, что заблокировала ряд аккаунтов ChatGPT, связанных с государственными и киберпреступными группировками из России, Китая, Ирана и других стран, которые использовали ИИ для написания вредоносного кода, автоматизации фейковых кампаний и киберразведки.

Об этом говорится в отчете компании, обнародованном 3 июня. Один из примеров — русскоязычная группа, которая создавала вредоносное ПО для Windows с помощью ChatGPT, улучшала код, маскировалась под легальное ПО Crosshair X и заражала компьютеры, чтобы воровать учетные данные, cookies и токены из браузеров. Украденную информацию посылали в Telegram.

Используя сеть временных аккаунтов, злоумышленники запускали один диалог на каждом аккаунте для постепенного усовершенствования своего кода, что свидетельствует о серьезном уровне OPSEC (оперативной безопасности). Среди инструментов — Go, PowerShell, ShellExecuteW, DLL side-loading, Base64-обфускация и SOCKS5-прокси для скрытия IP.

OpenAI также проявила активность двух китайских групп APT: APT5 и APT15. Они использовали ChatGPT для ресерча спутниковых технологий, создания скриптов, администрирования Linux, разработки Android-приложений и написания ботов для соцсетей – например, автоматизированного лайка постов в TikTok, X (Twitter), Instagram.

Еще один кейс — иранская операция Storm-2035, которая использовала ChatGPT для создания комментариев на английском и испанском языках с политическими месседжами в поддержку Палестины, Шотландии и Ирландии. А китайская кампания Sneer Review генерировала посты на Facebook и Reddit о международной политике на английском, китайском и урде.

Всего OpenAI зафиксировала 9 групп злоумышленников из разных стран, злоупотреблявших ее моделями. Они создавали фейковый контент, автоматизировали атаки на соцсети и даже помогали мошенническим схемам найма с «вводными вкладами».

ChatGPT и другие крупные языковые модели могут быть использованы как с добродетельной целью, так и в киберпреступности. Именно поэтому OpenAI ужесточает мониторинг активности пользователей. Компания также заявила, что сотрудничает с партнерами по выявлению и блокированию вредоносных кампаний. В этом случае речь идет не только о хакерских атаках, но и о манипулятивных информационных операциях на геополитические темы.

Недавно мы также писали о новой модели ChatGPT-5, которую OpenAI может анонсировать уже в июле. Ожидается, что она станет самым функциональным искусственным интеллектом компании с поддержкой видео, длительной памяти и унифицированным интерфейсом для работы с текстом, кодом и изображениями.