Загроза крадіжки інтелектуальної власності в сфері штучного інтелекту
Вступ до проблеми крадіжки інтелектуальної власності
Компанія Google нещодавно зробила тривожну заяву про спроби незаконного клонування її моделі штучного інтелекту Gemini. Невідомі особи надіслали понад 100 тисяч запитів, намагаючись відтворити її логіку через distillation-атаку, що є формою копіювання моделі через доступ до її API. Відповідно до квартального звіту Google Threat Intelligence Group, подібні дії представляють загрозу інтелектуальній власності компанії.
Методи та наслідки атак
Google підкресллює, що спроби вилучення моделей становлять серйозну загрозу, оскільки такі методи використовують не лише приватні структури, а й дослідники в усьому світі. Крадучи мовні особливості та здатність моделі працювати різними мовами, зловмисники порушують умови використання сервісів. Це може мати юридичні наслідки як для атакуючих, так і для компаній, що постраждали.
Ситуація в індустрії штучного інтелекту
Не лише Google стурбована цими загрозами. Наприклад, OpenAI докладала інформацію до американських законодавців про те, що китайська компанія DeepSeek нібито використовувала крадіжку даних для навчання своїх власних ШІ-систем. В індустрії визнають, що крадіжка моделей стає новим типом кіберзагрози, адже метою атак стає копіювання знань, створених в результаті дорогих досліджень.
Використання моделей у небажаних цілях
Google зафіксувала, що моделі Gemini використовуються державними угрупованнями з Китаю, Ірану, Північної Кореї та Росії. Наприклад, іранська група APT42 застосовувала цю модель для організації кампаній соціальної інженерії, в той час як китайські угруповання APT31 і UNC795 використовували її для аналізу вразливостей в системах.
Нові шкідливі програми та рішення
Крім того, Google виявила нове шкідливе програмне забезпечення HONESTCUE, яке інтегрувало API Gemini у свій код для виконання шкідливих команд. Також було зафіксовано фішинговий набір COINBAIT і сервіс Xanthorox, який маскувався під ШІ-платформу, але фактично використовував комерційні рішення.
Необхідність адаптації заходів безпеки
Google підкреслює важливість для компаній, які надають послуги ШІ, уважно слідкувати за шаблонами доступу до API та впроваджувати контроль за відповідями моделей. Оскільки загрози в цій сфері розвиваються надзвичайно швидко, необхідно зосереджуватися на зміцненні безпеки технологій.
