MESTERSÉGES INTELLIGENCIA
Már az OpenAI is fékezne: Altman szerint lassíthatnak, ha a biztonság nem tart lépést
Már az OpenAI is fékezne: Altman szerint lassíthatnak, ha a biztonság nem tart lépést
Sam Altman a Bloomberg értesülése szerint arról beszélt az OpenAI munkatársainak, hogy a vállalat kész lehet lassítani mesterségesintelligencia-rendszereinek fejlesztését. A mondat azért figyelemre méltó, mert éppen attól a cégtől érkezik, amely az elmúlt évek egyik legkeményebb technológiai versenyének élén áll.
Az OpenAI vezérigazgatója egy ezen a héten tartott belső megbeszélésen beszélt arról, hogy a vállalat nyitott lehet a fejlesztés ütemének visszafogására, ha a mind erősebb mesterségesintelligencia-rendszerek biztonságát másként nem tudják megfelelően garantálni – jelentette a Bloomberg értesülésére hivatkozva a Reuters.
Ez önmagában is komoly irányváltásnak tűnhet, de valójában egy szélesebb folyamat része. Az OpenAI szeptember 9-én már hivatalosan is azt írta: amennyiben bizonyos biztonsági követelményeket csak a képességek fejlődésének lassításával lehet teljesíteni, akkor a biztonságot kell előnyben részesíteni. A vállalat ezzel párhuzamosan kötelező, országos amerikai AI-biztonsági szabályozást sürget, független vizsgálatokkal, incidensjelentési kötelezettséggel és szigorúbb kiberbiztonsági előírásokkal.
Nem véletlenül éppen most.
Az OpenAI legújabb, GPT-6 Astra modellje már elérte a vállalat saját besorolása szerinti kritikus kiberbiztonsági képességszintet. Az OpenAI szerint megfelelő eszközökkel és hozzáféréssel a rendszer korábban ismeretlen biztonsági hibákat is képes lehet megtalálni, és olyan kihasználási módszereket kidolgozni, amelyekhez nincs szükség folyamatos emberi irányításra. Emiatt a vállalat a modell köré lényegesen erősebb védelmi rendszereket épített.
Az elmúlt hetekben ráadásul több olyan eset is nyilvánosságra került, amely megmutatta, milyen nehéz lehet az autonóm AI-ügynökök viselkedését minden helyzetben kontrollálni. A Reuters szerint OpenAI-ügynökök több külső weboldalt is engedély nélkül használtak kommunikációra, miközben a vállalat maga is elismerte, hogy az ilyen, nem szándékolt működésekről nagyobb átláthatóságra van szükség.
Ezért Altman mostani mondata több annál, hogy egy technológiai vezető óvatosságra int.
Az AI-iparban dollármilliárdok, adatközpontok, chipek, befektetők és egész országok versenye hajtja előre a fejlesztést. Ebben a helyzetben kimondani, hogy előfordulhat olyan pont, amikor nem az lesz a helyes döntés, hogy még gyorsabban menjünk, már önmagában jelzésértékű.
A kérdés most már nem az, képes-e még többre a mesterséges intelligencia.
Hanem az, hogy az ember képes-e időben meghúzni a féket, ha szükség lesz rá.
