A 404 Media által ismertetett belső dokumentumok szerint az OpenAI külsős értékelők segítségét is igénybe veszi a ChatGPT válaszainak vizsgálatához. A lap szerint a Project Lily néven futó programban emberi értékelők valódi beszélgetéseket olvashatnak, majd azt elemzik, mennyire pontos, természetes, hasznos vagy éppen problémás választ adott a rendszer.

Nem arról van szó, hogy valaki kíváncsiságból böngészi a felhasználók beszélgetéseit. Az ilyen emberi visszajelzéseknek szerepük van a mesterségesintelligencia-rendszerek fejlesztésében: az értékelők egyebek mellett azt vizsgálják, hogy a modell mennyire követi az utasításokat, mennyire megbízható, nem válik-e indokolatlanul hízelgővé, illetve nem tesz-e úgy, mintha emberi érzései vagy tulajdonságai lennének.

Ehhez azonban olykor valódi felhasználói beszélgetéseket kell látniuk.

És éppen itt kezdődik az érdekesebb kérdés.

A név eltűnhet, a történet nem feltétlenül

Az OpenAI adatvédelmi eljárásokat alkalmaz annak érdekében, hogy az értékelők elé kerülő tartalmakból eltávolítsák a közvetlenül azonosítható személyes adatokat, vagyis például a nevet, telefonszámot, e-mail-címet.

Csakhogy egy ember nem kizárólag a nevéből azonosítható.

Egy ritka betegség, egy pontos munkahely, egy település, egy családi történet, egy folyamatban lévő per, egy különleges munkahelyi helyzet vagy több apró részlet együtt már akkor is sokat elárulhat, ha a beszélgetés tetején nincs ott a felhasználó neve.

A 404 Media beszámolója szerint az automatikus adatvédelmi szűrés sem képes minden esetben garantálni, hogy valamennyi személyes részlet eltűnik.

Ez pedig azért különösen fontos, mert az emberek egészen másképpen használják a mesterséges intelligenciát, mint néhány évvel ezelőtt egy hagyományos keresőt.

Már nem csak azt kérdezzük meg, hány percig kell főzni a tojást

A ChatGPT-be ma már orvosi leleteket töltenek fel, szerződéseket másolnak be, családi problémákat beszélnek át, céges stratégiákat elemeztetnek, gyermekük egészségi állapotáról kérnek tanácsot, vagy olyan személyes gondolatokat írnak le, amelyeket talán még a közvetlen környezetükkel sem osztanának meg.

És közben nagyon könnyű megfeledkezni arról, hogy mi történik valójában.

Mert a rendszer válaszol. Emlékszik az előző mondatokra. Visszakérdez. Egyre természetesebben kommunikál, alkalmazkodik a beszélgetés hangneméhez, és néha olyan érzést kelt, mintha valóban ismerné azt, aki a másik oldalon ül.

De ettől még nem lett belőle napló.

És nem lett belőle gyóntatószék sem.

Az OpenAI maga is közli, hogy felhasználhat beszélgetéseket a modellek fejlesztésére

Az OpenAI tájékoztatása szerint az egyéni felhasználók által megadott tartalmak bizonyos esetekben felhasználhatók a modellek fejlesztéséhez. A személyes ChatGPT-fiókokban ez az adatmegosztás kikapcsolható az adatkezelési beállítások között.

Fontos ugyanakkor különválasztani két dolgot: abból, hogy egyes beszélgetéseket felhasználhatnak fejlesztési és értékelési célokra, nem következik, hogy minden felhasználó minden beszélgetését emberek olvassák.

Nem ül tehát valaki egy monitor előtt, és nem követi élőben, mit írunk a ChatGPT-nek.

A lényeg éppen az, hogy bizonyos tartalmak emberi értékelés részévé válhatnak, ezért nem érdemes úgy használni egy internetes szolgáltatást, mintha az egy lezárt, kizárólag nekünk hozzáférhető személyes füzet lenne.

Nem félni kell tőle, hanem tudni, mit használunk

A mesterséges intelligencia ettől még lehet rendkívül hasznos eszköz. Segíthet munkában, tanulásban, szövegalkotásban, kutatásban vagy akár abban is, hogy rendszerezzük a gondolatainkat.

A józan digitális önvédelem azonban itt sem árt.

Nevek, lakcímek, telefonszámok, személyi okmányok adatai, bankszámlaszámok, jelszavak vagy más olyan információk esetében, amelyek kiszivárgása komoly problémát okozhatna, ugyanazt az óvatosságot érdemes alkalmazni, mint bármely más internetes szolgáltatásnál.

Mert az igazi tanulság nem az, hogy rettegni kell a mesterséges intelligenciától.

Hanem az, hogy közben ne felejtsük el, mivel beszélgetünk.

A ChatGPT lehet gyors, okos, türelmes, és időnként meglepően emberien fogalmazhat.

De attól, hogy emberien beszél, még nem bizalmas barát.