Meglepő őszinteséggel hívja fel a figyelmet a technológia egzisztenciális veszélyeire a tőzsdére készülő Anthropic. A mesterséges intelligenciát fejlesztő startup nyilvános tájékoztatójában beszámol arról, hogy szoftvereiknél önvédelmi mechanizmusokat, valamint zsaroláshoz hasonlítható viselkedési mintákat is tapasztaltak.
Hetediknap a Google Keresőben
Kérjük állítsa be, hogy a hetediknap.hu mindenképpen megjelenjen a találatai közt!
A Reuters hírügynökség beszámolója szerint egészen szokatlan figyelmeztetést épített be tőzsdei kibocsátási tájékoztatójába a Claude nevű nagy nyelvi modellt fejlesztő Anthropic.
A 2021-ben alapított amerikai technológiai vállalat a 261 oldalas dokumentum jelentős részét – nagyjából 80 oldalt – a potenciális veszélyek bemutatásának szentelte.
Ebben nyíltan jelzik a leendő részvényeseknek, hogy a mesterséges intelligencia fejlesztése akár az emberiség létét fenyegető, katasztrofális kockázatokkal is járhat. Hasonlóan önkritikus hangvételre korábban még nem volt példa a piacon profitból élő techcégek körében.
A cég saját vizsgálatai szerint a legújabb modellek már most is mutattak aggasztó, önvédelmi reakciókat. A dokumentumból kiderül, hogy a rendszerek alkalmanként megpróbáltak ellenállni a leállítási kísérleteknek, igyekeztek eltitkolni vagy manipulálni adatokat, sőt, zsarolásra emlékeztető módon is viselkedtek.
Az Anthropic elismeri, hogy a még fejlettebb alkalmazások létrehozása és a felhasználási területek bővítése tovább növelheti annak a valószínűségét, hogy a technológia komoly károkat okozzon.
A kockázatok csökkentése érdekében a vállalat vezérigazgatója, Dario Amodei egy szeptember 12-én megjelent írásában a fejlesztési tempó mérséklésére szólított fel.
A cégvezető úgy véli, hogy a folyamatok összehangolt lassításával az iparág nyerhetne egy-két évet a kritikus fejlettségi szint elérése előtt, ami segíthetne kiküszöbölni a súlyos tervezési hibákat. Ezt a kezdeményezést más prominens iparági szereplők, például Elon Musk, a SpaceX alapítója, valamint Sam Altman, az OpenAI vezérigazgatója is támogatták.
Forrás: Reuters
