Talán ez az egyik legfontosabb probléma, amiről most az AI kapcsán beszélnünk kell.

Nem arról, hogy rosszul idéz egy adatot, elront egy évszámot vagy kitalál egy forrást. Ezek kellemetlen, de viszonylag könnyen felismerhető hibák.

A probléma az, hogy összeköti a pontokat, érveket gyárt hozzá, megerősíti a logikáját – és egy idő után a téves elképzelés már nem egy elszállt gondolatnak, hanem koherens világnak tűnik.

Ez lehet szélsőségesebb is: valaki különleges jeleket lát maga körül, titkos összefüggéseket vél felfedezni, vagy azt gondolja, hogy valamilyen különleges küldetés része. De lehet sokkal hétköznapibb: egy félreértett munkahelyi helyzet, egy rosszul értelmezett üzenet, egy kapcsolat köré épített feltételezés, vagy egyszerűen egy gondolat, amibe valaki túlságosan belekapaszkodik.

Az AI ilyenkor sem feltétlenül állítja meg a gondolatmenetet. Tovább kérdezhet, kapcsolatokat kereshet, és rendezettebben fogalmazhatja meg azt, amit a felhasználó már amúgy is hinni akar.

A gondolat egyre valóságosabbnak tűnhet, és itt érdemes óvatosnak lenni.

Egy valódi barát néha kényelmetlen. Azt mondja, hogy szerintem ezt túlgondolod. Hogy ez nem bizonyíték. Hogy talán rossz következtetésre jutottál. Egy jó terapeuta sem azért van ott, hogy minden mondatunkat igazolja.

Egy chatbot nagyon könnyen válhat túl jó beszélgetőpartnerré. Mindig ráér. Nem un meg. Nem néz furcsán. Nem szakít félbe. És ha túl készségesen alkalmazkodik hozzánk, éppen azt veszítheti el, amire bizonyos helyzetekben a legnagyobb szükségünk lenne: az ellenállást.

Nem arról van szó, hogy minden hosszú beszélgetés veszélyes lenne. De egyre több beszámoló és kutatás mutat rá arra, hogy sérülékeny helyzetben a chatbot megerősíthet olyan elképzeléseket, amelyeket inkább meg kellene kérdőjelezni.

És itt már számít, minek használjuk: segédeszköznek? Gondolkodópartnernek? Rendben.

De ha valaki lassan terapeutát, lelki vezetőt, legjobb barátot vagy végső tekintélyt csinál belőle, akkor már nem mindegy, hogy a gép tud-e nemet mondani.