Google заявила, что у нее пытались «украсть» ИИ

В компании Google сообщили, что неизвестные пытались клонировать Gemini, прислав системе более 100 тысяч запросов, чтобы воспроизвести ее логику через так называемую distillation-атаку— фактически копирование модели через ее API. Google назвала это кражей интеллектуальной собственности. Об этом говорится в квартальном отчете подразделения Google Threat Intelligence Group.

Что говорят в Google

В Google подчеркнули, что подобные действия фактически являются формой кражи интеллектуальной собственности. Злоумышленники пытались заставить Gemini сохранять языковые особенности умственного контента в соответствии с языком запроса, что могло помочь воспроизвести способность модели работать на разных языках. По словам компании, попытки изъятия моделей осуществляют как частные структуры, так и исследователи по всему миру, и это нарушает условия использования сервисов, потенциально влекая за собой юридические последствия.

Проблема кражи моделей беспокоит не только Google. OpenAI сообщила американским законодателям, что китайская компания DeepSeek якобы применяла замаскированные методы для получения результатов ведущих американских ШИ-моделей с целью обучения собственным системам. В области признают, что изъятие моделей становится новым типом киберугроз, когда вместо прямого взлома инфраструктуры атакующие пытаются копировать знания, созданные дорогостоящими исследованиями.

Кроме этого, Google заявила, что зафиксировала использование Gemini государственными группами из Китая, Ирана, Северной Кореи и России в конце 2025 года.

По данным отчета, иранская группа APT42 применяла модель для подготовки кампаний социальной инженерии, а китайские группировки APT31 и UNC795 — для анализа уязвимостей и отладки вредоносного кода. Северокорейская группа UNC2970 использовала ИИ для сбора разведданных об оборонных и кибербезопасных компаниях. Google сообщила, что соответствующие аккаунты были заблокированы, а полученные данные использованы для усиления защиты.

Также компания обнаружила новое семейство вредоносного ПО HONESTCUE, которое интегрировало API Gemini непосредственно в свой код для генерации и выполнения вредоносных команд в памяти. Кроме того, были задокументированы фишинговый набор COINBAIT и сервис Xanthorox, маскировавшийся под собственную ШИ-платформу, но фактически использовавший коммерческие решения, в частности Gemini.

В Google подчеркивают, что организациям, предоставляющим ИИ в качестве сервиса, необходимо внимательно отслеживать шаблоны доступа к API и внедрять контроль за ответами моделей, ведь развитие угроз в сфере искусственного интеллекта происходит чрезвычайно быстро.