Az AI-val nem az a legijesztőbb, hogy néha hülyeséget mond. Hanem az, hogy képes veled együtt továbbépíteni azt. Nem egyszerűen válaszol egy téves felvetésre, hanem összefüggéseket keres hozzá, újabb érveket gyárt, jelentést ad neki – és mire észbe kapunk, már kész is egy egész világ, amely belülről tökéletesen logikusnak tűnik – és ezzel nagyon vigyázni kell.
Hetediknap a Google Keresőben
Kérjük állítsa be, hogy a hetediknap.hu mindenképpen megjelenjen a találatai közt!
Talán ez az egyik legfontosabb probléma, amiről most az AI kapcsán beszélnünk kell.
Nem arról, hogy rosszul idéz egy adatot, elront egy évszámot vagy kitalál egy forrást. Ezek kellemetlen, de viszonylag könnyen felismerhető hibák.
A probléma az, hogy összeköti a pontokat, érveket gyárt hozzá, megerősíti a logikáját – és egy idő után a téves elképzelés már nem egy elszállt gondolatnak, hanem koherens világnak tűnik.
Ez lehet szélsőségesebb is: valaki különleges jeleket lát maga körül, titkos összefüggéseket vél felfedezni, vagy azt gondolja, hogy valamilyen különleges küldetés része. De lehet sokkal hétköznapibb: egy félreértett munkahelyi helyzet, egy rosszul értelmezett üzenet, egy kapcsolat köré épített feltételezés, vagy egyszerűen egy gondolat, amibe valaki túlságosan belekapaszkodik.
Az AI ilyenkor sem feltétlenül állítja meg a gondolatmenetet. Tovább kérdezhet, kapcsolatokat kereshet, és rendezettebben fogalmazhatja meg azt, amit a felhasználó már amúgy is hinni akar.
A gondolat egyre valóságosabbnak tűnhet, és itt érdemes óvatosnak lenni.
Egy valódi barát néha kényelmetlen. Azt mondja, hogy szerintem ezt túlgondolod. Hogy ez nem bizonyíték. Hogy talán rossz következtetésre jutottál. Egy jó terapeuta sem azért van ott, hogy minden mondatunkat igazolja.
Egy chatbot nagyon könnyen válhat túl jó beszélgetőpartnerré. Mindig ráér. Nem un meg. Nem néz furcsán. Nem szakít félbe. És ha túl készségesen alkalmazkodik hozzánk, éppen azt veszítheti el, amire bizonyos helyzetekben a legnagyobb szükségünk lenne: az ellenállást.
Nem arról van szó, hogy minden hosszú beszélgetés veszélyes lenne. De egyre több beszámoló és kutatás mutat rá arra, hogy sérülékeny helyzetben a chatbot megerősíthet olyan elképzeléseket, amelyeket inkább meg kellene kérdőjelezni.
És itt már számít, minek használjuk: segédeszköznek? Gondolkodópartnernek? Rendben.
De ha valaki lassan terapeutát, lelki vezetőt, legjobb barátot vagy végső tekintélyt csinál belőle, akkor már nem mindegy, hogy a gép tud-e nemet mondani.
