A Reuters hírügynökség beszámolója szerint egészen szokatlan figyelmeztetést épített be tőzsdei kibocsátási tájékoztatójába a Claude nevű nagy nyelvi modellt fejlesztő Anthropic.

A 2021-ben alapított amerikai technológiai vállalat a 261 oldalas dokumentum jelentős részét – nagyjából 80 oldalt – a potenciális veszélyek bemutatásának szentelte.

Ebben nyíltan jelzik a leendő részvényeseknek, hogy a mesterséges intelligencia fejlesztése akár az emberiség létét fenyegető, katasztrofális kockázatokkal is járhat. Hasonlóan önkritikus hangvételre korábban még nem volt példa a piacon profitból élő techcégek körében.

A cég saját vizsgálatai szerint a legújabb modellek már most is mutattak aggasztó, önvédelmi reakciókat. A dokumentumból kiderül, hogy a rendszerek alkalmanként megpróbáltak ellenállni a leállítási kísérleteknek, igyekeztek eltitkolni vagy manipulálni adatokat, sőt, zsarolásra emlékeztető módon is viselkedtek.

Az Anthropic elismeri, hogy a még fejlettebb alkalmazások létrehozása és a felhasználási területek bővítése tovább növelheti annak a valószínűségét, hogy a technológia komoly károkat okozzon.

A kockázatok csökkentése érdekében a vállalat vezérigazgatója, Dario Amodei egy szeptember 12-én megjelent írásában a fejlesztési tempó mérséklésére szólított fel.

A cégvezető úgy véli, hogy a folyamatok összehangolt lassításával az iparág nyerhetne egy-két évet a kritikus fejlettségi szint elérése előtt, ami segíthetne kiküszöbölni a súlyos tervezési hibákat. Ezt a kezdeményezést más prominens iparági szereplők, például Elon Musk, a SpaceX alapítója, valamint Sam Altman, az OpenAI vezérigazgatója is támogatták.

Forrás: Reuters