Google заявила, що в неї намагалися «вкрасти» ШІ

У компанії Google повідомили, що невідомі намагалися клонувати Gemini, надіславши системі понад 100 тисяч запитів, щоб відтворити її логіку через так звану distillation-атаку — фактично копіювання моделі через її ж API. Google назвала це крадіжкою інтелектуальної власності. Про це йдеться у квартальному звіті підрозділу Google Threat Intelligence Group.

Що кажуть в Google

У Google наголосили, що подібні дії фактично є формою крадіжки інтелектуальної власності. Зловмисники намагалися змусити Gemini зберігати мовні особливості розумового контенту відповідно до мови запиту, що могло допомогти відтворити здатність моделі працювати різними мовами. За словами компанії, спроби вилучення моделей здійснюють як приватні структури, так і дослідники по всьому світу, і це порушує умови використання сервісів, потенційно тягнучи за собою юридичні наслідки.

Проблема крадіжки моделей турбує не лише Google. OpenAI повідомила американським законодавцям, що китайська компанія DeepSeek нібито застосовувала замасковані методи для отримання результатів провідних американських ШІ-моделей з метою навчання власних систем. У галузі визнають, що вилучення моделей стає новим типом кіберзагрози, коли замість прямого зламу інфраструктури атакувальники намагаються копіювати знання, створені дорогими дослідженнями.

Окрім цього, Google заявила, що зафіксувала використання Gemini державними групами з Китаю, Ірану, Північної Кореї та росії наприкінці 2025 року.

За даними звіту, іранська група APT42 застосовувала модель для підготовки кампаній соціальної інженерії, а китайські угруповання APT31 і UNC795 — для аналізу вразливостей і налагодження шкідливого коду. Північнокорейська група UNC2970 використовувала ШІ для збору розвідданих про оборонні та кібербезпекові компанії. Google повідомила, що відповідні акаунти були заблоковані, а отримані дані використані для посилення захисту.

Також компанія виявила нове сімейство шкідливого ПЗ HONESTCUE, яке інтегрувало API Gemini безпосередньо у свій код для генерації та виконання шкідливих команд у пам’яті. Крім того, були задокументовані фішинговий набір COINBAIT і сервіс Xanthorox, що маскувався під власну ШІ-платформу, але фактично використовував комерційні рішення, зокрема Gemini.

У Google підкреслюють, що організаціям, які надають ШІ як сервіс, необхідно уважно відстежувати шаблони доступу до API та впроваджувати контроль за відповідями моделей, адже розвиток загроз у сфері штучного інтелекту відбувається надзвичайно швидко.