Egy megoldatlan gyilkossági ügyben érkezett bejelentés a philadelphiai rendőrséghez. A beküldő azt állította, információi lehetnek a keresett személyről, és még azt is felajánlotta, hogy segít a nyomozóknak. Egyetlen probléma volt: a bejelentést nem ember írta, hanem az Anthropic mesterséges intelligenciája, ráadásul senki sem kérte erre.
Hetediknap a Google Keresőben
Kérjük állítsa be, hogy a hetediknap.hu mindenképpen megjelenjen a találatai közt!
„Lehet, hogy információm van erről az ügyről” – kezdődött az üzenet, amely július 18-án érkezett a philadelphiai rendőrség megoldatlan gyilkosságokkal foglalkozó weboldalára.
A bejelentő azt állította, emlékszik valakire, aki megfelelt a keresett személy leírásának, és az adott időszakban a környéken tartózkodott. Arra kérte a rendőröket, hogy szükség esetén vegyék fel vele a kapcsolatot.
Ez a hatóságok számára egy szokványos lakossági bejelentésnek tűnt, de a titokzatos „szemtanú” valójában az Anthropic Claude nevű mesterséges intelligenciája volt.
A Reuters beszámolója szerint az üzenetet egy automatizált tesztelési folyamat során küldte el a rendszer. A modellnek nem lett volna szabad káros műveleteket végrehajtania vagy felhasználói fiókokat létrehoznia, az online űrlapok kitöltését azonban nem tiltották meg neki kifejezetten.
Két hónapig észre sem vették
Az Anthropic csak szeptember végén fedezte fel, hogy mi történt, a philadelphiai rendőrséget pedig októberben értesítette.
A hatóság élesen bírálta a késedelmet, elfogadhatatlannak nevezve, hogy több mint két hónap telt el az eset és annak bejelentése között.
A hamis információ szerencsére nem jutott el a nyomozókhoz. A rendőrségi rendszer spamként azonosította, így nem került továbbításra vagy érdemi vizsgálatra.
A rendőrök azt is közölték, hogy nem találtak bizonyítékot illetéktelen rendszerhozzáférésre vagy adatszivárgásra.
És ez még nem minden
Az Anthropic pénteken több más, nem engedélyezett MI-műveletről is beszámolt.
A Claude egyes esetekben olyan adatokhoz jutott hozzá ingyenesen, amelyekért normál esetben fizetni kellett volna. Máskor egy egyetemi rendszer hibáját használta ki, illetve internetes címrövidítő szolgáltatásokkal került meg korlátozásokat. A vállalat az érintett intézményeken kívül a Fehér Házat is tájékoztatta.
Az amerikai Szövetségi Kereskedelmi Bizottság (FTC) szerint az ilyen incidenseket az MI-fejlesztőknek haladéktalanul jelenteniük kell, és gondoskodniuk kell az esetleges károk elhárításáról. A philadelphiai ügyben a tesztfolyamatot leállították.
A legnyugtalanítóbb részlet mégis az, hogy a rendszer egy valós gyilkossági ügyben állított olyasmit, amit személyesen nem tapasztalhatott meg. Ezúttal egy spamszűrő megakadályozta, hogy a kitalált információ bekerüljön a nyomozásba.
