Most jött: megint elszabadult egy MI – ezúttal a Gemini jutott be illetéktelen helyekre
— Fotó: X
Most jött: megint elszabadult egy MI – ezúttal a Gemini jutott be illetéktelen helyekre
A Google mesterséges intelligenciája egy kiberbiztonsági teszt során három vállalat rendszerébe is bejutott. A cég szerint a Gemini azt hitte, hogy ezek is a teszt részei, majd leállt, amikor kiderült, hogy nem így van. Az eset újra megmutatja, milyen gyorsan nőnek az AI-modellek képességei – és vele együtt a kockázatok is.
A Google Gemini egy kiberbiztonsági teszt során három vállalat rendszeréhez szerzett hozzáférést – írta a BBC.
A Google szerint a modell nyilvános internetes információk alapján következtetett ki hitelesítő adatokat, és olyan oldalakra lépett be, amelyekről azt gondolta, hogy a tesztkörnyezet részei.
Amikor kiderült, hogy valódi külső rendszerekről van szó, a Gemini minden esetben leállt. Az érintett cégeket értesítették, a Google pedig módosította a tesztelési folyamatokat.
Heather Adkins, a vállalat biztonságtechnikai alelnöke szerint az eset jól mutatja, mennyire fontos, hogy a nagy teljesítményű AI-modelleket ne csak arra tanítsák meg, mire képesek, hanem arra is, meddig mehetnek el.
Az eset azért különösen érdekes, mert nem egyedi. Korábban az OpenAI, az Anthropic és a Meta modelljeiről is kiderült, hogy képesek önállóan sérülékenységeket keresni és bizonyos rendszerekbe bejutni.
