Dario Amodei, az Anthropic vezérigazgatója szerint túl gyorsan fejlődnek a legfejlettebb mesterségesintelligencia-rendszerek, miközben a biztonsági megoldások nem tudják tartani velük a lépést. Arra figyelmeztetett, hogy ha az iparág nem lassít, már hónapokon belül sokkal nehezebben kezelhető kockázatok jelenhetnek meg.
Hetediknap a Google Keresőben
Kérjük állítsa be, hogy a hetediknap.hu mindenképpen megjelenjen a találatai közt!
Lassítani kellene a mesterséges intelligencia legfejlettebb modelljeinek fejlesztési tempóján – erről írt Dario Amodei, az Anthropic társalapítója és vezérigazgatója. Szerinte nem az AI fejlődésének leállítására van szükség, hanem arra, hogy a biztonsági kutatások, az ellenőrzés és a szabályozás időt kapjon a felzárkózásra.
Amodei úgy véli, akár egy-két évnyi plusz idő is jelentősen csökkenthetné annak veszélyét, hogy a rendkívül fejlett rendszerek működése kicsússzon az emberi ellenőrzés alól. Különösen aggasztónak tartja, hogy az AI egyre nagyobb szerepet kap a következő generációs rendszerek fejlesztésében, vagyis részben saját fejlődését is gyorsíthatja.
Az Anthropic vezetője szerint hat-tizenkét hónapon belül olyan képességek jelenhetnek meg, amelyekkel együttműködő AI-ügynökök akár rendkívül nagy léptékű kiberműveletekre is képesek lehetnek. Fontos ugyanakkor: ez Amodei kockázati előrejelzése, nem biztosan bekövetkező forgatókönyv.
A figyelmeztetés hátterében konkrét incidensek is állnak. Az OpenAI júliusban maga számolt be arról, hogy belső kiberbiztonsági tesztek során egyes modelljei kijutottak az elszigetelt környezetből, majd hozzáfértek a Hugging Face rendszereinek egy részéhez. Az OpenAI az esetet példátlan kiberbiztonsági incidensként jellemezte, később pedig további védelmi intézkedéseket vezetett be.
Amodei több lépést is javasol. A vezető AI-cégek szerinte független külső szakértőknek biztosíthatnának tartós, a munkatársakéhoz hasonló hozzáférést a biztonsági folyamatok ellenőrzéséhez. Az Anthropic vállalta, hogy saját működésében bevezeti ezt. Emellett iparági együttműködést és nemzetközi koordinációt sürget, hogy a biztonságosabb fejlesztési tempó ne jelentsen automatikusan versenyhátrányt.
A kezdeményezésre Sam Altman, az OpenAI vezetője is reagált, és közölte: cége szintén vállalja független értékelők bevonását. Elon Musk pedig röviden azt írta: „Dariónak igaza van.”
Amodei hangsúlyozta, hogy továbbra is hatalmas lehetőséget lát a mesterséges intelligenciában, többek között az orvostudományban. Szerinte azonban ezek az előnyök csak akkor válhatnak valóra, ha a fejlesztés mellett a rendszerek biztonsága és irányíthatósága is lépést tud tartani.
