Britský časopis The Economist sa venuje tomu, ako špionážne agentúry experimentujú s najnovšími modelmi umelej inteligencie. Pripomína, že v ten istý deň, keď Donald Trump nastúpil na úrad prezidenta, čínska spoločnosť DeepSeek predstavila svetovo uznávaný veľký jazykový model (LLM). Podľa Trumpa to bolo varovným signálom. Mark Warner, podpredseda Senátneho výboru pre spravodajské služby, tvrdí, že americká spravodajská komunita, skupina 18 agentúr a organizácií, bola „zaskočená.“ V minulom roku sa Bidenova administratíva začala obávať, že čínski špióni a vojaci by mohli získať zavádzajúcu umelú inteligenciu. Nariadila svojim spravodajským agentúram, Pentagónu a inisterstvu energetiky (ktoré vyrába jadrové zbrane), aby agresívnejšie experimentovali s najmodernejšími modelmi a úzko spolupracovali s „pionierskymi“ laboratóriami umelej inteligencie – hlavne spoločnosti Anthropic, Google DeepMind a OpenAI. Pentagon 14. júla udelil kontrakty v hodnote až 200 miliónov $ spoločnostiam Anthropic, Google a OpenAI, ako aj spoločnosti xAI Elona Muska, ktorej chatbot sa nedávno (a krátko) po neúspešnej aktualizácii identifikoval ako Hitler, na experimentovanie s „agentickými“ modelmi. Tieto modely môžu konať v mene svojich používateľov tým, že rozdelia zložité úlohy na kroky a vykonávajú kontrolu nad inými zariadeniami, ako sú autá alebo počítače.
Priekopnícke laboratóriá sú aktívne nielen vo vojenskom, ale aj v špionážnom svete. Veľa z prvých aplikácií bolo v oblasti LLM chatbotov, ktoré spracovávajú prísne tajné údaje. V januári Microsoft oznámil, že 26 z jeho cloudových počítačových produktov bolo schválených na použitie v špionážnych agentúrach. V júni Anthropic oznámil, že spustil systém Claude Gov, ktorý bol „už nasadený agentúrami na najvyššej úrovni národnej bezpečnosti USA.“ Tieto modely sa teraz široko používajú vo všetkých amerických spravodajských agentúrach, spolu s modelmi konkurenčných laboratórií.
Firmy zaoberajúce sa umelou inteligenciou zvyčajne svoje modely prispôsobujú potrebám spravodajských služieb. Claude, verejný model spoločnosti Anthropic, môže v rámci svojich všeobecných bezpečnostných funkcií odmietnuť dokumenty s utajeným označením; Claude Gov je upravený tak, aby sa tomu zabránilo. Má tiež „vylepšenú znalosť“ jazykov a dialektov, ktoré môžu potrebovať vládni používatelia. Modely zvyčajne bežia na zabezpečených serveroch odpojených od verejného internetu. V agentúrach sa teraz buduje nová generácia agentických modelov. Rovnaký proces prebieha aj v Európe. „V generatívnej umelej inteligencii sme sa snažili veľmi rýchlo nasledovať najnovšie modely,“ uvádza britský zdroj. „Všetci v britskej spravodajskej komunite majú prístup k prísne tajným schopnostiam LLM.“ Francúzska firma Mistral, jediný skutočný šampión umelej inteligencie v Európe, má partnerstvo s AMIAD, francúzskou agentúrou pre umelú inteligenciu v oblasti vojenskej bezpečnosti. Model Saba od firmy Mistral je trénovaný na údajoch z Blízkeho východu a južnej Ázie, vďaka čomu je obzvlášť zdatný v arabčine a menších regionálnych jazykoch, ako je tamilčina. V januári časopis „+972“ informoval, že izraelské ozbrojené sily po začatí vojny v Gaze zvýšili 20-násobne používanie modelu GPT-4, vtedy najpokročilejšieho LLM od OpenAI.
Napriek tomu je pokrok pomalý, hovorí Katrina Mulliganová – pôsobiaca predtým ako hlavný zástupca námestníka ministra obrany pre špeciálne operácie a konflikty nízkej intenzity – ktorá vedie partnerstvá OpenAI v tejto oblasti. „Zavádzanie umelej inteligencie v oblasti národnej bezpečnosti pravdepodobne ešte nie je tam, kde by sme chceli, aby bolo.“ NSA, americká agentúra pre signálnu spravodajskú činnosť, ktorá sa desiatky rokov zaoberá skoršími formami umelej inteligencie, ako je rozpoznávanie hlasu, je podľa zasvätených zdrojov oázou excelentnosti. Mnohé agentúry však stále chcú vytvoriť vlastné „obaly“ pre chatboty z laboratórií, čo je proces, ktorý ich často zanecháva ďaleko za najnovšími verejnými modelmi. „Transformačný prvok nespočíva len v tom, že sa používa ako chatbot,“ hovorí Tarun Chhabra, ktorý viedol technologickú politiku v Národnej bezpečnostnej rade Joea Bidena a teraz je vedúcim národnej bezpečnostnej politiky v spoločnosti Anthropic. „Transformačný prvok spočíva v tom, že keď ho začnete používať, ako potom prebudujete spôsob, akým plníte svoju úlohu?“
Skeptici sa domnievajú, že tieto nádeje sú prehnané. Richard Carter z Alan Turing Institute .- britského národného inštitútu pre umelú inteligenciu – tvrdí, že to, čo spravodajské služby v Amerike a Británii skutočne chcú, je, aby laboratóriá výrazne znížili „halucinácie“ v existujúcich modeloch LLM. Britské agentúry používajú techniku nazvanú „generovanie rozšíreného vyhľadávania,“ pri ktorej jeden algoritmus vyhľadáva spoľahlivé informácie a poskytuje ich LLM, aby sa minimalizovali halucinácie, uvádza nemenovaný britský zdroj. „V spravodajskej komunite potrebujete konzistentnosť, spoľahlivosť, transparentnosť a vysvetliteľnosť,“ varuje Dr. Carter. Laboratóriá sa namiesto toho zameriavajú na pokročilejšie agentické modely.
Napríklad Mistral údajne potenciálnym klientom predviedol ukážku, v ktorej je každý tok informácií, ako sú satelitné snímky alebo odposluchové záznamy, spárovaný s jedným agentom umelej inteligencie, čo urýchľuje rozhodovanie. Alternatívne si predstavte agenta umelej inteligencie, ktorého úlohou je identifikovať, preskúmať a následne kontaktovať stovky iránskych jadrových vedcov, aby ich povzbudil k dezercii. „Nerozmýšľali sme dostatočne o tom, ako by sa agenti mohli využiť v kontexte vojnových operácií,“ dodáva Chhabra. Problémom agentických modelov je podľa Dr. Cartera to, že na úlohu reagujú rekurzívnym generovaním vlastných podnetov, čím sa stávajú nepredvídateľnejšími a zvyšuje sa riziko kumulácie chýb. Najnovší agentický model OpenAI, agent ChatGPT, má podľa hodnotenia zverejneného spoločnosťou halucinácie v približne 8 % odpovedí, čo je vyššia miera ako v prípade skoršieho modelu o3.
Niektoré laboratóriá umelej inteligencie považujú takéto obavy za byrokratickú rigiditu, ale podľa Dr. Cartera ide jednoducho o zdravý konzervativizmus. „To, čo máte, najmä v GCHQ“ – hovorí s odkazom na britský ekvivalent NSA – „je neuveriteľne talentovaná technická pracovná sila, ktorá je prirodzene dosť skeptická voči novým technológiám.“ Toto súvisí aj so širšou diskusiou o tom, kde leží budúcnosť umelej inteligencie. Dr. Carter patrí medzi tých, ktorí tvrdia, že architektúra dnešných všeobecne použiteľných modelov LLM nie je navrhnutá pre taký druh kauzálneho uvažovania, ktorý im umožňuje solídne pochopiť svet. Podľa jeho názoru by prioritou spravodajských služieb malo byť presadzovanie nových typov modelov uvažovania. Iní varujú, že Čína by mohla byť v tomto smere ďaleko vpredu. „Stále existuje obrovská medzera v našom chápaní toho, ako a do akej miery Čína pokročila v používaní DeepSeek“ na vojenské a spravodajské účely, hovorí Philip Reiner z Inštitútu pre bezpečnosť a technológie, think-tanku v Silicon Valley: „Pravdepodobne nemajú podobné bezpečnostné opatrenia ako my na samotných modeloch, a tak budú pravdepodobne schopní získať silnejšie poznatky rýchlejšie.“
Trumpova administratíva 23. júla nariadila Pentagónu a spravodajským službám, aby pravidelne hodnotili, ako rýchlo americké národné bezpečnostné agentúry zavádzajú umelú inteligenciu v porovnaní s konkurentmi, ako je Čína – a aby „vytvorili prístup na jej neustále prispôsobovanie.“ Takmer všetci s tým súhlasia. Senátor Warner tvrdí, že americkí špióni odvádzajú „mizernú prácu“ pri sledovaní pokroku Číny. „Získavanie technológií a prenikanie do čínskych technologických spoločností je stále pomerne nízke.“ Najväčším rizikom podľa Mulliganovej nie je to, že Amerika sa vrhne do technológie skôr, ako pochopí riziká. „Ide skôr o to, že ministerstvo obrany a spravodajské služby pokračujú v tom, čo robili doteraz. V noci mi nedá spať reálna možnosť, že síce vyhráme preteky o AGI (umelej všeobecnej inteligenciui), ale prehráme preteky o jej zavedenie.“
0 komentárov