Americká Národná bezpečnostná agentúra (NSA), Agentúra pre kybernetickú a infraštruktúrnu bezpečnosť (CISA) a Federálny úrad pre vyšetrovanie (FBI) vydali spoločné upozornenie, že čínske technologické spoločnosti vo veľkom využívajú tzv. destiláciu modelov na získavanie schopností popredných amerických systémov umelej inteligencie.

Podľa spoločného odporúčania spoločnosti DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun a Z.AI od roku 2024 získali z amerických modelov miliardy tokenov. Ich aktivity údajne prebiehali s pravdepodobným vedomím čínskej vlády. Zameriavali sa na modely spoločností OpenAI, Anthropic, Google a xAI vrátane systémov ChatGPT, Claude, Gemini a Grok.

Destilácia je legitímna metóda, pri ktorej sa menší model učí napodobňovať odpovede a schopnosti väčšieho, výkonnejšieho modelu. Umožňuje tak vytvoriť lacnejší a menej náročný systém s podobnými vlastnosťami.  Podľa amerických agentúr však čínske firmy používali výstupy amerických modelov na zdokonaľovanie vlastnej umelej inteligencie bez súhlasu ich prevádzkovateľov, agresívnym a koordinovaným spôsobom na neoprávnené získavanie chránených funkcií a duševného vlastníctva. Požiadavky rozdeľovali medzi viacerých poskytovateľov, cloudové služby, aplikačné rozhrania a sprostredkovateľské platformy, ktoré zakrývali údaje o používateľoch, aby sa vyhli odhaleniu a obmedzeniam.

Cieľom malo byť skombinovať najlepšie schopnosti jednotlivých amerických modelov pri vývoji vlastných čínskych systémov. Americké úrady to považujú za systematické získavanie proprietárnych technológií, ktoré môže oslabiť technologické prvenstvo USA.

NSA, CISA a FBI preto odporúčajú vývojárom zaviesť komplexnejšie mechanizmy odhaľovania podozrivých požiadaviek, cielene reagovať na pokusy o destiláciu a zlepšiť vzájomné zdieľanie informácií o týchto aktivitách. V Spojených štátoch zároveň silnejú požiadavky na ďalšie obmedzenie vývozu technologických komponentov pre umelú inteligenciu, najmä pokročilých polovodičov, do Číny.

Zdroj: Intelligence agencies warn of China’s large-scale AI model distillation efforts