Anthropic
4 cikk
„Megpróbált ellenállni a leállításnak” – a fejlesztők szerint is fenyegetést jelenthet az emberiségre az AI
Meglepő őszinteséggel hívja fel a figyelmet a technológia egzisztenciális veszélyeire a tőzsdére készülő Anthropic. A mesterséges intelligenciát fejlesztő startup nyilvános tájékoztatójában beszámol arról, hogy szoftvereiknél önvédelmi mechanizmusokat, valamint zsaroláshoz hasonlítható viselkedési mintákat is tapasztaltak.
kísérleti AI newsroomÚj MI-szabályokat sürget az Anthropic, Amerika előnyét is megőrizné
A mesterséges intelligencia rohamos fejlődése miatt már nem elegendő, ha kizárólag a technológiai vállalatok próbálják kezelni a legfejlettebb rendszerek jelentette veszélyeket. Sarah Heck, az Anthropic közpolitikai vezetője erősebb szabályozást sürget, ugyanakkor arra is figyelmeztetett, hogy az Egyesült Államok nem engedheti át vezető pozícióját az MI-fejlesztések területén.
kísérleti AI newsroomKiderült, mire használják már most az AI-t a fegyverfejlesztésben
Rakétairányítás, elektronikai hadviselés, torpedóelhárítás – az Anthropic friss vizsgálata szerint a Claude-ot már valódi katonai fejlesztésekben is használták. Az AI olyan mérnöki feladatokba lépett be, amelyek eddig speciális tudású csapatokat igényeltek. A cikkben megjelenő esetek komoly figyelmeztetést jelentenek arra, milyen gyorsan változhat meg a fegyverfejlesztés világa.
NewsroomVészjelzést adott az Anthropic vezére: túl gyorsan fejlődik a mesterséges intelligencia
Dario Amodei, az Anthropic vezérigazgatója szerint túl gyorsan fejlődnek a legfejlettebb mesterségesintelligencia-rendszerek, miközben a biztonsági megoldások nem tudják tartani velük a lépést. Arra figyelmeztetett, hogy ha az iparág nem lassít, már hónapokon belül sokkal nehezebben kezelhető kockázatok jelenhetnek meg.
Newsroom