Lassítani kellene a mesterséges intelligencia legfejlettebb modelljeinek fejlesztési tempóján – erről írt Dario Amodei, az Anthropic társalapítója és vezérigazgatója. Szerinte nem az AI fejlődésének leállítására van szükség, hanem arra, hogy a biztonsági kutatások, az ellenőrzés és a szabályozás időt kapjon a felzárkózásra.

Amodei úgy véli, akár egy-két évnyi plusz idő is jelentősen csökkenthetné annak veszélyét, hogy a rendkívül fejlett rendszerek működése kicsússzon az emberi ellenőrzés alól. Különösen aggasztónak tartja, hogy az AI egyre nagyobb szerepet kap a következő generációs rendszerek fejlesztésében, vagyis részben saját fejlődését is gyorsíthatja.

Az Anthropic vezetője szerint hat-tizenkét hónapon belül olyan képességek jelenhetnek meg, amelyekkel együttműködő AI-ügynökök akár rendkívül nagy léptékű kiberműveletekre is képesek lehetnek. Fontos ugyanakkor: ez Amodei kockázati előrejelzése, nem biztosan bekövetkező forgatókönyv.

A figyelmeztetés hátterében konkrét incidensek is állnak. Az OpenAI júliusban maga számolt be arról, hogy belső kiberbiztonsági tesztek során egyes modelljei kijutottak az elszigetelt környezetből, majd hozzáfértek a Hugging Face rendszereinek egy részéhez. Az OpenAI az esetet példátlan kiberbiztonsági incidensként jellemezte, később pedig további védelmi intézkedéseket vezetett be.

Amodei több lépést is javasol. A vezető AI-cégek szerinte független külső szakértőknek biztosíthatnának tartós, a munkatársakéhoz hasonló hozzáférést a biztonsági folyamatok ellenőrzéséhez. Az Anthropic vállalta, hogy saját működésében bevezeti ezt. Emellett iparági együttműködést és nemzetközi koordinációt sürget, hogy a biztonságosabb fejlesztési tempó ne jelentsen automatikusan versenyhátrányt.

A kezdeményezésre Sam Altman, az OpenAI vezetője is reagált, és közölte: cége szintén vállalja független értékelők bevonását. Elon Musk pedig röviden azt írta: „Dariónak igaza van.”

Amodei hangsúlyozta, hogy továbbra is hatalmas lehetőséget lát a mesterséges intelligenciában, többek között az orvostudományban. Szerinte azonban ezek az előnyök csak akkor válhatnak valóra, ha a fejlesztés mellett a rendszerek biztonsága és irányíthatósága is lépést tud tartani.