A mesterséges intelligencia fejlődésének ütemével a jogi szabályozásnak is lépést kell tartania – erről beszélt Sarah Heck, az Anthropic közpolitikai vezetője a Politico rendezvényén. Heck a biztonsági kérdések mellett arra is kitért, hogy az Egyesült Államoknak továbbra is meghatározó szerepet kell játszania a legfejlettebb MI-rendszerek fejlesztésében.

A Politico beszámolója alapján Heck úgy látja, nem szükséges választani a mesterséges intelligencia biztonságosabbá tétele és az amerikai technológiai versenyképesség között. A két cél párhuzamosan is követhető: miközben szabályokkal kell csökkenteni a legsúlyosabb kockázatokat, az Egyesült Államoknak és szövetségeseinek meg kell őrizniük előnyüket a globális MI-versenyben.

A vállalatok önszabályozása már nem elegendő

Az Anthropic az utóbbi időszakban egyre határozottabban szorgalmazza a legfejlettebb mesterségesintelligencia-rendszerek állami ellenőrzését. A vállalat friss szakpolitikai javaslata alapján a fejlesztőknek tesztelniük kellene a legerősebb modelleket, nyilvánosságra kellene hozniuk biztonsági vizsgálataik eredményeinek összefoglalóját, valamint független értékelésnek is alá kellene vetniük rendszereiket.

A cég úgy véli, a kormányzatnak megfelelő jogi eszközökkel kellene rendelkeznie ahhoz is, hogy megakadályozza vagy késleltesse egy olyan modell bevezetését, amely jelentős katasztrofális kockázatot jelenthet. Az Anthropic négy kiemelt veszélyterületet azonosít: a biológiai és kiberbiztonsági fenyegetéseket, az MI-rendszerek feletti ellenőrzés elvesztésének lehetőségét, valamint azt, hogy a mesterséges intelligencia egyre nagyobb szerepet vállalhat saját továbbfejlesztésében.

Amerika vezető szerepét is megőriznék

A szigorúbb biztonsági követelmények mellett az Anthropic az amerikai technológiai előny fenntartását is stratégiai kérdésnek tekinti. A vállalat szakpolitikai álláspontja alapján fontosnak tartja, hogy a legfejlettebb MI-modellek továbbra is az Egyesült Államokban és szövetséges demokratikus országokban készüljenek. Érvelésük alapján ugyanis az is meghatározó, milyen politikai és jogi környezetben fejlesztik a legerősebb rendszereket.

Az Anthropic ennek érdekében támogatja a fejlett chipekre és félvezetőgyártási technológiákra vonatkozó exportkorlátozásokat is, különösen Kínával szemben. A vállalat ugyanakkor azt hangsúlyozza, hogy a technológiai verseny nem jelentheti a biztonsági követelmények háttérbe szorítását.

Az MI biztonságáról szóló vita az elmúlt napokban ismét felerősödött. Több vezető technológiai szereplő szigorúbb ellenőrzést sürget, miközben továbbra sincs egyetértés abban, milyen gyorsan jelentkezhetnek a fejlett rendszerekhez kapcsolódó legsúlyosabb veszélyek.