CNN uvádza, že americká armáda bola na jar 2026 blízko k zásahu proti čínskej lodi na Blízkom východe na základe chybnej spravodajskej informácie vytvorenej s pomocou umelej inteligencie. Analytik veliteľstva špeciálnych operácií použil chatbot na vyhodnotenie údajov o náklade plavidla. Systém nesprávne dospel k záveru, že loď preváža komponenty súvisiace s programom jadrových zbraní.

Výsledok, ktorý spájal verejne dostupné informácie s utajovaným signálovým spravodajstvom, bol následne pomocou AI spracovaný do štandardne vyzerajúcej spravodajskej informácie a rozoslaný v rámci ozbrojených síl. Americká armáda začala pripravovať zadržanie lode – do vzduchu vzlietli lietadlá a ozbrojení vojaci sa podľa zdrojov chystali vstúpiť na jej palubu.

Operáciu zastavili až krátko pred zásahom, keď dôkladnejšia kontrola odhalila, že záver chatbota bol nepravdivý. CNN nezistila, aký náklad loď v skutočnosti prevážala ani či analytik použil komerčný alebo vládny systém AI.

Incident poukazuje na nedostatočné pravidlá, kontrolu a overovanie výstupov AI v americkom rezorte obrany. Podľa zdrojov mohol zásah proti čínskemu plavidlu prerásť do vážnej konfrontácie medzi USA a Čínou. Prípad zároveň ukazuje, že bezprostredné nebezpečenstvo AI nemusí spočívať v jej autonómnom rozhodovaní, ale v presvedčivo formulovaných chybných záveroch, ktoré ľudia bez riadneho preverenia použijú pri vojenskom rozhodovaní.

Zdroj: Exclusive: US military had close call after using AI for false intelligence report, sources say