Az Anthropic szeptemberben nyilvánosságra hozott jelentése jóval nagyobb problémát rejt annál, mint amit a korábban ismert jemeni rakétaprojekt önmagában mutatott. A vállalat hat olyan esetet azonosított Kínában, Oroszországban és Jemenben, amelyekben a Claude-ot hagyományos fegyverek fejlesztéséhez, katonai szoftverekhez, hírszerzéshez vagy beszerzések támogatásához használták. Az érintett fiókokat a cég letiltotta.

Az egyik legsúlyosabb eset Jemenben történt. Az Anthropic szerint egy észak-jemeni csoport rakétaprogramokon dolgozott, és a Claude-ot részben emberi szoftvermérnökök helyett használta: programozási, szimulációs és hibakeresési feladatokat is rábízott.

A cég egy olyan terepi tesztről is beszámolt, amely után a rendszerrel elemeztették a kapott adatokat.

A jelentésből azonban kiderül, hogy nem ez volt az egyetlen katonai felhasználás. Egy Kínában működő szereplő egy torpedók elleni rendszer műszaki dokumentációján és tűzvezető szoftverén dolgozott a Claude segítségével.

Egy másik, kínai hadiipari kutatáshoz kötött felhasználó elektronikai hadviselési rendszert fejlesztett, amely radarokat és légvédelmi célpontokat elemzett. A projekt egyik szimulációjában tajvani katonai objektumok is megjelentek.

Egy további kínai szereplő nagy teljesítményű mikrohullámú, úgynevezett irányított energiájú fegyverekről gyűjtött nyílt forrású információkat, beszállítókat kutatott fel és hírszerzési jelentéseket készíttetett az AI-val.

A generatív AI egyre több olyan részfeladatban használható – kódolásban, modellezésben, dokumentációban, tervellenőrzésben és elemzésben –, amelyhez korábban speciális tudású mérnökök egész csapatára lehetett szükség.

Az Anthropic saját tesztjei szerint a legfejlettebb modellek bizonyos katonai és hírszerzési feladatokban már olyan képességeket mutatnak, amelyek korábban ritka, magasan képzett szakemberekhez kötődtek. A cég ezért új védelmi rendszereket vezetett be a fegyverfejlesztéssel kapcsolatos visszaélések felismerésére és blokkolására.