Reggel felébredünk, kezünkbe vesszük a telefont, és elkezdődik. Az egyik hírt elolvassuk. A másikat átugorjuk. Egy videónál megállunk, a következőt három másodperc után továbbpörgetjük. Valamin nevetünk. Valamin felháborodunk. Valamit megveszünk. Valamit megosztunk. Mi mindezt döntések sorozataként éljük meg. A képernyő túloldaláról azonban ugyanez adatok sorozatának látszik. És ebből adódik korunk egyik legizgalmasabb kérdése: ha elég adat áll rendelkezésre rólunk, kiszámíthatóvá válunk?

Nem gondolatolvasás, hanem valószínűség

Kezdjük azzal, amit az algoritmus nem tud. Nem lát bele a fejünkbe. Nem tudja biztosan, mit teszünk öt perc múlva. És nincs olyan matematikai függvény, amelybe beírják, hogy „Kovács János”, majd kijön belőle, hogy János kedden 17 óra 42 perckor mérges lesz. A modern előrejelző rendszerek ennél egyszerre prózaibbak és érdekesebbek. Valószínűségeket becsülnek. Leegyszerűsítve valami ilyesmit kérdeznek:

P(reakcioˊ∣koraˊbbi viselkedeˊs, helyzet, ko¨rnyezet)

Vagyis: mekkora annak az esélye, hogy valaki egy adott helyzetben egy bizonyos módon reagál, ha ismerjük korábbi viselkedésének egy részét? Nem azt mondják: „rá fog kattintani”. Hanem inkább: „az eddigi adatok alapján nagyobb valószínűséggel kattint erre, mint arra”. Ez óriási különbség. És egyben a digitális gazdaság egyik kulcsa.

Az algoritmusnak nem kell tökéletesen ismernie

Tegyük fel, hogy egy rendszer két cikk közül próbálja eldönteni, melyiket mutassa meg nekünk. Az egyik egy gazdasági elemzés. A másik egy botrányról szól. A rendszer tudhatja, mire kattintottunk korábban, mennyi ideig maradtunk egy tartalomnál, mely videókat néztük végig, milyen témákhoz tértünk vissza. A mai ajánlórendszerek pontosan ilyen felhasználói és viselkedési adatokból próbálják megbecsülni, mi érdekelhet bennünket, majd ennek megfelelően rangsorolják a tartalmakat.

Nem kell ehhez „ismernie a lelkünket”. Elég, ha azt becsüli:

• A cikk: 12% kattintási esély

• B cikk: 18% kattintási esély

És megmutatja a B-t.

Hat százalékpont nem hangzik világmegváltónak. Csakhogy ugyanezt képzeljük el több millió vagy milliárd ajánlásnál. A kis valószínűségi előnyökből hatalmas gazdasági érték keletkezhet.

A láthatatlan póráz: Mondjuk ki végre nyersen: ez nem egy ártatlan statisztikai játék. Ez a modern kori rabszolgaság finomhangolása. Az algoritmus mögött nemcsak hideg egyenletek állnak, hanem a Szilícium-völgy legdörzsöltebb pszichológusai, akik pontosan tudják, hogy az emberi lélek leggyengébb pontja a kíváncsiság és a felháborodás. Amikor a gép kiszámítja a reakciónkat, nem csupán tippel. Kísértésbe ejt. A digitális térben a „kattintás esélye” valójában a dopamin-függőségünk mérőszáma.

Egy ember kiszámíthatatlan. Tízezer már kevésbé

Van ebben egy furcsa paradoxon. Egyetlen ember viselkedését gyakran nehéz megjósolni. Sok emberét már könnyebb.

Gondoljunk egy pénzfeldobásra. Egyetlen dobásnál nem tudjuk biztosan, fej vagy írás lesz. Ha azonban rengetegszer feldobjuk a szabályos érmét, az eredmények arányáról már jóval pontosabb képünk lesz. Az ember természetesen nem pénzérme. Sokkal összetettebb. De a statisztika egyik nagy ereje éppen az, hogy nagyobb csoportokban olyan mintázatok válhatnak láthatóvá, amelyek egyetlen ember szintjén elvesznek a zajban.

A digitális térben pedig valóban találunk meglepően tartós viselkedési mintázatokat. Egy kutatás nyolc online platform 34 évnyi adatait elemezve olyan kommunikációs mintákat talált, amelyek platformtól, témától és időszaktól függetlenül is újra megjelentek. Ez nem azt jelenti, hogy az egyes ember előre programozott. Azt jelenti, hogy a tömegben szabályszerűségek jelenhetnek meg.

A digitális lábnyom

A modellek adatokból dolgoznak. A digitális világ pedig elképesztő mennyiséget termel belőlük.

• Mit néztünk meg?

• Mire kattintottunk?

• Mennyi ideig maradtunk?

• Mit kerestünk?

• Mit vásároltunk?

• Milyen sorrendben tettük mindezt?

Egyetlen ilyen adatpont alig mond valamit. Több száz vagy több ezer azonban már mintázatot rajzolhat ki. Ezért fontos különbséget tenni két mondat között.

TévhitValóság„A rendszer ismer engem.”„A rendszer felismerte, hogy bizonyos helyzetekben a viselkedésem hasonlít más emberek korábbi viselkedésére.”

A második állítás sokkal közelebb áll ahhoz, ahogyan számos prediktív rendszer működik. Kevésbé misztikus. De ettől még nem jelentéktelen.

A tegnapi énünkből próbálják megjósolni a holnapit

Itt jelenik meg a modell egyik alapvető korlátja: a múltból következtet a jövőre. Csakhogy az ember változik. Aki tegnap órákig nézett politikai videókat, ma lehet, hogy rájuk sem akar nézni. Aki évekig ugyanazt a zenét hallgatta, felfedezhet egy teljesen más műfajt. Szakíthatunk. Megtérhetünk. Gyermekünk születhet. Elveszíthetünk valakit. Munkahelyet válthatunk. Megváltozhat az értékrendünk.

A rendszer számára mindez először csak új adat. Nekünk viszont lehet életforduló. Mi ugyanis nem pusztán adatok vagyunk. Történetünk van.

Amikor a jóslat elkezd alakítani bennünket

És itt válik igazán elképesztővé a helyzet. Tegyük fel, hogy a rendszer azt tanulja meg rólunk: a dühöt kiváltó politikai tartalmaknál nagyobb valószínűséggel állunk meg. Ezért többet mutat belőlük. Mi többet látunk. Többre reagálunk. A rendszer ebből újabb adatot kap. Majd még több hasonló tartalmat ajánl. Az algoritmus ekkor már nem csupán megfigyeli azt a környezetet, amelyben döntünk. Részt vesz a kialakításában.

A felháborodás-ipar, mint politikai fegyver

Ha az algoritmus rájön, hogy téged a nemzeti büszkeségedben, a hitedben vagy a családod védelmében lehet a leginkább megsebezni és reakcióra bírni, akkor éjjel-nappal olyan tartalmakat fog eléd lökni, amelyek felkorbácsolják az indulataidat.

Ez már nem ártatlan matematika. Ez az információs hadviselés legbrutálisabb formája, ahol a te felhergelt idegrendszered a profit és a politikai befolyásszerzés üzemanyaga. A véleménybuborék, amit körénk építenek, nem megvéd, hanem elszigetel minket a valóságtól.

Egy kutatás kísérleteiben a szakemberek azt találták, hogy az ember és az algoritmus között veszélyes visszacsatolási hurok alakulhat ki: egy enyhén torzított emberi adatokon tanuló algoritmus felerősítheti a torzítást, az emberek pedig az algoritmussal való ismételt interakció során maguk is torzultabb ítéleteket kezdtek hozni. Ugyanakkor a pontos algoritmus javítani is tudta a résztvevők ítéleteinek pontosságát. Ez fontos: az algoritmus nem szükségszerűen rossz irányba visz bennünket. De képes visszahatni arra, ahogyan a világot megítéljük.

Megjósolni nem ugyanaz, mint manipulálni

Ezt a kettőt könnyű összekeverni. Attól, hogy egy rendszer képes bizonyos viselkedést valószínűsíteni, még nem következik, hogy irányítani is tud bennünket. Ha egy bolt tudja, hogy péntek délután nagyobb eséllyel veszünk kenyeret, attól még nem a bolt kényszerített rá. De az előrejelzés felhasználható befolyásolásra. Meghatározhatja, milyen reklámot látunk, milyen ajánlat kerül elénk, melyik tartalmat mutatják meg, vagy milyen értesítés próbál visszahívni egy alkalmazásba.

Érdekes módon ugyanez a technológia más célokra is használható. Egy nagyszabású kísérletben több mint hatezer embernél azt találták, hogy amikor az ajánlórendszer nem pusztán a felhasználók pillanatnyi viselkedését, hanem az általuk ideálisnak tartott preferenciákat próbálta követni, a résztvevők kevésbé kattintottak ugyan, mégis inkább úgy érezték, hogy hasznosan töltötték az idejüket. Vegyük észre: a kérdés nem pusztán az, hogy mennyire jó egy algoritmus az előrejelzésben. Hanem az is: mire optimalizáljuk?

Nem az a legnagyobb veszély, hogy túl sokat tud rólunk

Hanem az, hogy mi túl sokat hiszünk el róla. Egy modell által adott magas valószínűség még mindig csak valószínűség. Nem ítélet. Ez különösen húsbavágó, amikor nem arról dönt egy algoritmus, melyik filmet nézzük meg este, hanem arról, hogy kapunk-e lehetőséget az életben:

• Állásinterjú és munkaerő-felvétel

• Hitelbírálat és banki lehetőségek

• Biztosítási kötvények

• Oktatási szűrők

• Hatósági és bűnüldözési döntések

A munka világával kapcsolatban az OECD is arra figyelmeztet, hogy az algoritmikus döntéshozatal átláthatatlansága elfogultsághoz és akár diszkriminatív eredményekhez is vezethet, ezért az ilyen rendszereknél az átláthatóságot és az emberi elszámoltathatóságot alapvető követelménynek tekinti. Amikor egy algoritmikus becslés egy ember munkájáról vagy lehetőségeiről dönt, nem felejthetjük el: a modell nem a jövőt ismeri. Múltbeli adatokból számol valószínűséget.

És akkor mi marad a szabad akaratból?

Ez már nem pusztán informatikai kérdés. Évezredek óta vitatkozik róla filozófia és teológia. If egy döntésünk statisztikailag előre jelezhető, attól kevésbé szabad? Nem feltétlenül. Ha valaki harminc éve minden reggel kávét iszik, jó eséllyel megjósolhatjuk, hogy holnap reggel is fog. Ettől még nem a statisztikai modell kényszerítette rá.

Az előrejelezhetőség és a meghatározottság nem ugyanaz. Talán ez az egész kérdés legfontosabb mondata.

A gépnek nem kell ismernie a lelkünket

A digitális korszak egyik legnagyobb félreértése, hogy ahhoz, hogy egy algoritmus hatással legyen ránk, tökéletesen ismernie kell bennünket. Nem kell. Nem kell értenie a gyerekkorunkat. Nem kell tudnia, mitől félünk éjszaka. Nem kell ismernie minden rejtett gondolatunkat. Elég, ha egy adott pillanatban egy kicsivel jobban meg tudja becsülni, melyik lehetőségre reagálunk, mint a véletlen. És ha naponta százszor kerülünk ilyen döntési helyzetbe, ez a minimális előny már mindent eldönt körülöttünk.

De ettől még nem váltunk képletté.

Mert a modellek egyvalamit képtelenek előre beépíteni a rendszerbe: az emberi lélek azon szent pillanatát, amikor meglepjük a világot. Amikor a statisztikai görbe elhajlik, mert az embernek lelkiismerete és Istentől kapott szabad akarata van.

Egy algoritmus kiszámíthatja a kattintásaidat, de soha nem fogja előre jelezni azt a percet, amikor a céltalan görgetés közepette hirtelen megérint a józanság, és leteszed a telefont, hogy megöleld a gyermeked. Amikor a gép által generált düh helyett a megbocsátást választod. Amikor eleged lesz a virtuális cirkuszból, és kimész a földre dolgozni, vagy beülsz egy csendes templompadba, ahol nincs térerő – csak a valóság.

A gép számára a morális ébredés nem más, mint egy „hibás adatpont”, egy anomália. Számunkra viszont ez maga az élet.

A valódi kérdés tehát nem az, hogy kiszámítható-e az ember. Hanem az, hogy alattvalói maradunk-e a kijelzők mögött megbúvó tech-oligarcháknak, vagy megőrizzük a tudatosságunkat és a szuverenitásunkat abban a szent pillanatban, amikor meghozzuk a saját döntéseinket. A képlet csak addig működik, amíg hagyjuk magunkat birkaként terelni. De az ember nem egyenlet – és itt az ideje, hogy ezt bebizonyítsuk.