Umelá inteligencia už nie je iba nástrojom na tvorbu obsahu. Stáva sa prostredníkom, cez ktorý sa štáty, politické skupiny a ďalší aktéri pokúšajú dlhodobo formovať názory verejnosti. Obrana preto vyžaduje rovnakú obozretnosť, akú používajú spravodajské služby pri práci s neistými a zámerne skreslenými informáciami. Anthony Vinci, bývalý vysokopostavený spravodajský dôstojník a prvý riaditeľ pre technológie americkej Národnej geopriestorovej spravodajskej agentúry (NGA) ponúka rady, ako sa nenechať oklamať propagandou šírenou pomocou umelej inteligencie.
Keď sa terčom propagandy stávajú samotné modely
Moderné vplyvové operácie sa už nesústredia iba na ľudí. Ich terčom sú aj veľké jazykové modely, ktoré miliónom používateľov sprostredkúvajú informácie. Príkladom je sieť Portal Kombat podporovaná Ruskom. Prostredníctvom stoviek webových stránok v desiatkach jazykov zaplavuje internet obsahom, ktorý môže preniknúť do odpovedí systémov ako ChatGPT, Grok či Gemini. Podľa organizácie NewsGuard sieť v roku 2024 zverejnila viac než 3,6 milióna článkov a jej tvrdenia sa pri testovaní objavovali aj vo výstupoch chatbotov.
Takéto pôsobenie využíva základnú slabinu generatívnej umelej inteligencie: modely pracujú s obrovským množstvom verejne dostupných dát, no nie vždy spoľahlivo rozlišujú medzi overeným zdrojom, účelovou manipuláciou a opakovaným klamstvom. Ak je informačný priestor zaplavený koordinovaným obsahom, propaganda môže pôsobiť ako zdanlivý konsenzus a následne sa vracať k používateľom v presvedčivo formulovaných odpovediach.
Najväčšou hrozbou nie je klamstvo, ale presviedčanie
Rozhodujúci posun spočíva v personalizácii a interaktivite. Tradičná propaganda bola prevažne jednosmerná: človek si prečítal leták, pozrel reklamu alebo narazil na príspevok. Systém poháňaný umelou inteligenciou však môže analyzovať postoje, obavy a túžby používateľa, prispôsobiť mu argumenty a viesť s ním dlhý rozhovor. To, čo kedysi vyžadovalo tím ľudí a týždne práce, možno dnes uskutočniť v sekundách a vo veľkom rozsahu.
Vinci prirovnáva takéhoto agenta skôr k spravodajskému dôstojníkovi než k statickému propagandistickému materiálu. Systém môže postupne budovať dôveru, testovať, ktoré argumenty fungujú, a meniť taktiku podľa reakcií človeka. Štúdia publikovaná v časopise Nature podľa pôvodného textu ukázala, že dialógy s umelou inteligenciou môžu byť približne štyrikrát presvedčivejšie než tradičné politické reklamy.
Príklady zo súčasných vplyvových operácií
Rôzne kampane ukazujú, ako široko možno tieto techniky uplatniť. Uniknuté dokumenty analyzované výskumníkmi z Vanderbiltovej univerzity opisovali systém čínskej spoločnosti GoLaxy, ktorý mal získavať údaje zo sociálnych sietí, vytvárať psychologické profily a pripravovať personalizovaný politický obsah. Spoločnosť poprela, že by vyvíjala psychologické profily, nasadzovala botov alebo vykonávala činnosť súvisiacu s voľbami. Reportéri bez hraníc zároveň upozornili, že čínsky model Qwen pri otázkach o ujgurských internačných táboroch preberal formulácie zodpovedajúce línii Komunistickej strany Číny.
Ruské operácie zasa využívajú umelú inteligenciu na výrobu lacného a početného obsahu, ktorý napodobňuje miestne spravodajstvo alebo známe médiá. Sieť CopyCop, označovaná aj ako Storm-1516, mala podľa kyberbezpečnostných výskumníkov prevádzkovať stránky pôsobiace ako autentické americké médiá. Ďalšia kampaň, nazvaná „Data Center Bandwagon“, podľa OpenAI využívala jej modely na tvorbu príspevkov a obrázkov o výstavbe dátových centier či cenách elektriny, zverejňovaných následne na sociálnej sieti X.
Tri pravidlá informačnej sebaobrany
1. Triangulujte zdroje
Dôležité tvrdenie porovnajte vo viacerých nezávislých médiách, ideálne s odlišným redakčným zázemím a perspektívou. Rovnaký princíp platí pre chatboty: odpoveď jedného systému overte v inom a následne ju porovnajte s primárnym zdrojom. Zhoda viacerých systémov sama osebe nie je dôkazom, pretože môžu čerpať z rovnakých chybných alebo zmanipulovaných dát.
2. Testujte spoľahlivosť
Položte systému otázku, na ktorú už poznáte odpoveď, a sledujte, či správne pracuje s faktami, neistotou a zdrojmi. Pri závažných témach siahnite po primárnych podkladoch: oficiálnych dokumentoch, vedeckých štúdiách, satelitných snímkach, verejných databázach alebo priamych vyjadreniach relevantných organizácií.
3. Zachovajte zdravú nedôveru
Presvedčivý tón nie je zárukou pravdivosti. Chatbot môže odpovedať plynulo, sebavedomo a prívetivo aj vtedy, keď sa mýli alebo opakuje cudziu manipuláciu. Používateľ by preto mal oddeľovať kvalitu formulácie od kvality dôkazov a pri každom dôležitom tvrdení sa pýtať, odkiaľ pochádza a čo by ho mohlo vyvrátiť.
Od individuálnej obrany k odolnej spoločnosti
Ochrana pred propagandou nemôže zostať iba osobnou zručnosťou jednotlivcov. Potrebné je systematické vzdelávanie v kritickom myslení, rozpoznávaní dezinformácií, overovaní digitálneho obsahu a bezpečnom používaní umelej inteligencie. Takéto vzdelávanie by nemalo končiť školou, ale malo by pokračovať počas celého života podobne ako osveta v kybernetickej bezpečnosti.
Dôležitú úlohu môžu zohrávať aj komunity dôvery a občianske vyšetrovanie. Platformy na zdieľanie lokálnych informácií, tematické komunity či projekty otvoreného vyšetrovania, akým je Bellingcat, ukazujú, že verejnosť môže spoločne overovať dôkazy a odhaľovať manipulatívne siete. Takéto prostredie však potrebuje jasné pravidlá, transparentné metódy a ochotu opravovať vlastné omyly.
Umelá inteligencia zásadne zlacňuje a zrýchľuje výrobu propagandy, no jej skutočná sila spočíva v schopnosti viesť personalizovaný dialóg a dlhodobo budovať dôveru. Najlepšou obranou nie je odmietnuť technológiu, ale používať ju disciplinovane: porovnávať zdroje, testovať spoľahlivosť, vyžadovať dôkazy a zostať pripravený zmeniť názor. V informačnom prostredí, kde môže byť presvedčivá odpoveď výsledkom cielenej manipulácie, sa skeptické a metodické myslenie stáva základnou občianskou zručnosťou.
0 komentárov