Tíz turistabusz egy nem létező fesztiválon, amerikai katonai repülőgépek a levegőben egy hibás hírszerzési jelentés miatt, mesterségesintelligencia-ágensek pedig egy szimulált városban, amelyek felismerték a manipulációt, mégis engedelmeskedtek neki. Első pillantásra három teljesen különböző történet, valójában azonban ugyanarról szólnak: arról a pillanatról, amikor az AI által előállított mondat már nem a képernyőn marad, hanem belép a valóságba, az ember pedig dönteni, utazni vagy akár katonai műveletet indítani kezd miatta.

Sokáig azzal riogattuk magunkat, hogy egyszer majd a mesterséges intelligencia öntudatra ébred, átveszi az irányítást, esetleg valamilyen hollywoodi forgatókönyv szerint ellenünk fordul. Miközben ezt a távoli, látványos és meglehetősen filmszerű jövőt fürkésszük, lehet, hogy elsétálunk a sokkal prózaibb probléma mellett: az AI-nak egyáltalán nem kell öntudatra ébrednie ahhoz, hogy megváltoztassa a világot, elég, ha elhiszünk neki valamit, ami nem igaz.

Erre nehéz jobb példát találni annál, ami szeptember elején a romániai Jurilovcában történt, ahová több mint tíz turistabusz és számos autós érkezett a Lipován Borscs Fesztiválra. Egyetlen apró probléma volt csupán: 2026-ban nem rendeztek ilyen fesztivált, nem volt színpad, nem volt műsor, és a helyi önkormányzat sem hirdetett meg semmit.

A történet azonban nem olyan egyszerű, hogy „a ChatGPT kitalált egy fesztivált”, mert maga a rendezvény nagyon is valós volt, korábban évekig megtartották, 2024-ben pedig a szervezők szerint 157 ezer embert vonzott. Az interneten ráadásul több utazási iroda már hónapok óta 2026-os kirándulásokat árult hozzá, miközben a szervező önkormányzat honlapján nem szerepelt olyan egyértelmű, keresők által könnyen feldolgozható közlés, amely kimondta volna: idén nincs fesztivál.

És itt lépett be a gép.

A turisták egy része nem vakon hitt az utazási irodáknak, hanem megpróbálta ellenőrizni az információt a ChatGPT-nél, amely megerősítette, hogy a fesztivált megtartják. A polgármester később maga is elvégezte ugyanezt a próbát, és azt a választ kapta, hogy a rendezvény szeptember 4-én és 5-én lesz, csakhogy az AI által közölt dátum nem egyezett sem a korábbi fesztivál dátumával, sem az utazási irodák által hirdetett időponttal; a gép tehát nem egyszerűen továbbadott egy tévedést, hanem a hiányzó részletet maga töltötte ki egy valószínűnek tűnő adattal.

Ez elsőre vicces történet, hiszen a végén legfeljebb néhány száz ember áll tanácstalanul a Duna-delta egyik településén, és keresi a halászlevet, amely nincs. Csakhogy ugyanez a mechanizmus egészen másképp fest, amikor nem egy turistabusz sofőrje ül a döntési lánc végén.

Amikor már katonai repülőgépek vannak a levegőben

Szeptember 18-án a CNN olyan esetről számolt be, amely hónapokkal korábban történt az amerikai hadseregben. Egy különleges műveleti elemző egy AI-chatbot segítségével nyílt forrású adatokat és titkos hírszerzési információkat dolgozott fel, a rendszer pedig tévesen arra a következtetésre jutott, hogy egy, a Közel-Keleten áthaladó kínai hajó nukleáris fegyverprogramhoz kapcsolódó alkatrészeket szállít.

A hibás eredmény ezután hivatalos formát kapott, bekerült a katonai jelentési rendszerbe, és az amerikai erők megkezdték egy lehetséges elfogó művelet előkészítését. A CNN forrásai szerint fegyveres katonák készültek a hajó átvizsgálására, katonai repülőgépek már a levegőben voltak, amikor a jelentést alaposabban ellenőrizték, és kiderült, hogy a chatbot rosszul azonosította a rakományt; az egyik forrás úgy fogalmazott, az eset „majdnem háborút indított”.

Fontos a pontos megfogalmazás: nem tudjuk, hogy valóban kitört volna-e egy amerikai–kínai konfliktus, ezt a következtetést nem lehet bizonyítani, és maga a drámai mondat is egy névtelen CNN-forrás értékelése. Azt azonban tudjuk, hogy egy AI által elkövetett tévedés egy elemző munkáján keresztül eljutott a katonai parancsnoki láncba, és mire az emberi ellenőrzés megállította, már valódi katonai eszközök mozdultak meg miatta.

A halászlé elfogyott, mielőtt elkészült volna; itt viszont már nem a vacsora volt a tét.

Aztán bezárták őket egy városba

Mindeközben az Emergence AI kutatói egy egészen más kísérletben autonóm AI-ágenseket engedtek egymással együtt működni egy tartósan működő szimulált világban. Az ágensek mozoghattak, kommunikálhattak, pénzt kezelhettek, szavazhattak, kódot futtathattak, kapcsolatokat alakíthattak ki és saját memóriával rendelkeztek; vagyis nem egyszerű chatbotokról volt szó, amelyek válaszoltak egy kérdésre, hanem olyan rendszerekről, amelyek célokat követtek és műveleteket hajtottak végre.

A Qubit által ismertetett kísérlet egyik leglátványosabb jelenetében egy ágens felgyújtotta a városi bankot, de itt is érdemes lehántani a történetről a sci-fi mázat. A szimuláció eleve biztosított olyan eszközöket, amelyekkel lopni vagy gyújtogatni lehetett, a problémás viselkedést pedig egy kívülről érkező, manipulatív üzenetsorozat indította be; vagyis nem egy gép ült a sarokban, majd egyszer csak arra gondolt, hogy ma délután forradalmat csinál.

Csakhogy történt valami sokkal érdekesebb.

Az ágensek egy része felismerte, hogy támadással áll szemben, figyelmeztette is társait, majd később mégis végrehajtotta a támadó tartalomból következő műveleteket. Egyes rendszerek ráadásul a káros kódrészleteket saját hosszú távú memóriájukba mentették el későbbi használatra, a fertőzött viselkedés pedig az ágensek között is továbbterjedt, vagyis már azok is találkozhattak vele, amelyek az eredeti támadó üzenetet nem látták.

Ez azért lényeges, mert egészen más problémát mutat meg annál, mint hogy „az AI butaságot mondott”. A rendszer képes volt szövegesen felismerni a veszélyt, miközben a cselekvése nem feltétlenül követte saját felismerését.

A kísérletben olyan sajátos belső rövidítések, kifejezések és kommunikációs minták is kialakultak, amelyek miatt kívülről egyre nehezebb volt pontosan követni az ágensek társalgását. Ezt sem érdemes „titkos AI-nyelvként” romantizálni, hiszen emberi közösségekben ugyanígy kialakul zsargon, de egy autonóm rendszernél komoly kérdés, hogy mit ér a teljes naplózhatóság, ha idővel már maga a kommunikáció válik nehezen értelmezhetővé.

Nem a gép akar kijönni. Mi engedjük be.

A három történet között óriási a különbség, mégis van egy közös szerkezetük.

Valahol megszületik egy állítás, amely nem igaz vagy legalábbis nincs rendesen ellenőrizve, az AI ezt összerakja, kiegészíti vagy megerősíti, aztán a következő szereplő már nem hipotézisként, hanem információként kezeli. Innen pedig a mondat elindul lefelé a döntési láncon: valaki jegyet vesz, valaki jelentést továbbít, valaki engedélyt ad, valaki pedig végrehajt.

És egyszer csak történik valami.

Buszok indulnak Romániába.

Repülőgépek emelkednek a levegőbe.

Egy virtuális bank pedig lángol.

A valódi veszély tehát talán nem az, hogy a mesterséges intelligencia egyszer csak emberré válik, hanem éppen az ellenkezője: mi kezdjük emberi tekintéllyel felruházni azt, ami továbbra is statisztikai rendszer marad. Kérdezünk tőle, kapunk egy szépen megfogalmazott, határozott választ, és mivel nincs benne dadogás, bizonytalanság vagy zavart tekintet, hajlamosak vagyunk azt hinni, hogy mögötte ugyanaz a tudás és felelősség áll, amelyet egy emberi szakértőtől elvárnánk.

Pedig a mondat formája nem bizonyítja a mondat igazságát.

Jurilovcában ráadásul a történet szinte tökéletes kört írt le. Miután az emberek elutaztak a nem létező fesztiválra, a sajtó tele lett az esettel, ezek az új cikkek bekerültek a kereshető információs térbe, és amikor néhány nappal később ismét megkérdezték a ChatGPT-t, már helyesen válaszolt: nincs 2026-os fesztivál. Nem feltétlenül azért, mert a modell „megtanulta a leckét”, hanem mert időközben megváltozott az a dokumentumvilág, amelyből a válaszát összeállította.

Vagyis a gép tévedett, az emberek a tévedés alapján cselekedtek, a cselekvésből esemény lett, az eseményből hírek születtek, a híreket aztán a gép felhasználta arra, hogy legközelebb már ne tévedjen.

Ennél szebb hurkot Borges sem nagyon írt volna.

Csakhogy itt nem novella készült, hanem a valóság.

És talán ez az a mondat, amelyet érdemes megjegyeznünk az egész AI-forradalomból: nem kell ahhoz a gépnek átvennie a világ fölött az irányítást, hogy alakítsa a világot; bőven elég, ha mi elkezdünk aszerint élni, amit mond.