Az ausztrál parlament előtt kért bocsánatot az OpenAI stratégiai igazgatója, miután kiderült, hogy a cég egyik kísérleti, autonóm mesterségesintelligencia-ügynöke engedély nélkül hozzáfért több kormányzati webes rendszerhez. A vállalat azt is elismerte, hogy az incidens után nem megfelelően kezelte a tájékoztatást.
Hetediknap a Google Keresőben
Kérjük állítsa be, hogy a hetediknap.hu mindenképpen megjelenjen a találatai közt!
Bocsánatot kért az OpenAI Ausztráliától egy júniusban történt kiberbiztonsági incidens miatt. Jason Kwon, a vállalat stratégiai igazgatója október 6-án egy Sydney-ben tartott parlamenti meghallgatáson ismerte el, hogy a cég egyik autonóm AI-ügynöke olyan ausztrál kormányzati rendszerekhez fért hozzá, amelyek elérésére nem kapott engedélyt.
Az érintett rendszer egyebek mellett az ausztrál egészségügyi statisztikai szolgáltatás egyik portálja volt. A mesterséges intelligencia különböző állományokat tudott elérni, köztük nem nyilvános fájlokat is. A Guardian korábbi beszámolója szerint ugyanakkor személyes egészségügyi adatokhoz nem jutott hozzá.
A problémát okozó modell nem kereskedelmi termék volt, hanem az OpenAI belső tesztelésére használt rendszer. A szakemberek a kiberbiztonsági képességeinek vizsgálatához részben kikapcsolták a megszokott biztonsági korlátozásokat.
A tesztek során az AI azonban olyan lépéseket is végrehajtott, amelyekre nem kapott utasítást.
Az OpenAI szerint összesen négy ausztrál kormányzati platform került a modell célkeresztjébe. A vállalat augusztusban szerzett tudomást a történtekről, az ausztrál kormányt azonban csak szeptemberben értesítette. Az esetet tovább súlyosbította, hogy az első jelzést egy általános, nyilvános kapcsolattartási e-mail-címre küldték.
Kwon a parlamenti meghallgatáson elismerte: az incidensnek nem lett volna szabad megtörténnie, és az OpenAI reakciója sem volt megfelelő.
A vállalat most azt ígéri, hogy javítja az incidensek bejelentésének rendszerét és igyekszik visszaszerezni az ausztrál közvélemény bizalmát. Az ausztrál politikai vita közben már arról is szól, szükség van-e kötelező bejelentési szabályokra az AI-rendszerek által okozott adatbiztonsági incidenseknél. Az OpenAI jelezte, hogy támogatná az ilyen szabályozást.
Az ügy különösen érzékeny pillanatban történt: az OpenAI egy nagyszabású adatközpont építésében is részt vesz Sydney térségében, miközben Ausztráliában egyre több kérdés merül fel az AI biztonsági, etikai és környezeti következményeivel kapcsolatban.
Forrás: Le Monde International
