Az Anthropic szeptemberben nyilvánosságra hozott jelentése szerint Oroszországhoz köthető fejlesztők olyan autonóm FPV-drónraj szoftverén dolgoztak, amelynek létrehozásához a Claude rendszerét is használták. A projekt messze túlment egy egyszerű drónvezérlő programon: rajkoordinációt, célfelismerést, navigációt és olyan fedélzeti döntési rendszert fejlesztettek, amely támadás, megfigyelés vagy visszatérés között választhatott.

A jelentés szerint a célpontok között ember is szerepelhetett, a rendszer pedig úgy készült, hogy a kiválasztott célra rávezesse a drónt, majd emberi jóváhagyás nélkül elindítsa a támadást.

Ez az a pont, ahol már nem lehet annyival elintézni az ügyet, hogy újabb fejezet kezdődött a modern hadviselésben.

Nincs bizonyíték arra, hogy a rendszert valódi harctéren bevetették volna, a fejlesztés jelentős része szimulációban zajlott, ugyanakkor az Anthropic szerint valódi hardvereken is végeztek teszteket. Vagyis nem egy távoli jövőről, hanem egy már létező technikai lehetőségről beszélünk.

A kérdés pedig egyszerűbb, mint maga a technológia: ki dönt egy ember haláláról, ha a célpontot már a gép választja ki?

A katona, aki elindította a drónt? A parancsnok, aki kiadta a feladatot? A programozó, aki megírta a rendszert? A gyártó, amely elkészítette?

Vagy végül senki?

A háborúban eddig is öltek távolról. Tüzérséggel, rakétával, repülőgépről, drónnal. A távolság azonban nem szüntette meg az emberi döntést és vele együtt a felelősséget. Az autonóm fegyvereknél éppen ez kezdhet eltűnni: az ember kiad egy általános parancsot, a rendszer pedig már maga keresi meg azt, akit ellenségnek ítél.

Keresztény szemmel itt húzódik az egyik legfontosabb határ.

Az ember ugyanis nem „célkategória”. Nem egy adatpont a képernyőn, nem egy felismerendő alakzat, hanem személy, akinek méltósága akkor sem szűnik meg, ha fegyvert visel és ellenséges oldalon harcol.

Ez nem jelenti az önvédelem vagy a honvédelem megtagadását. A katolikus tanítás elismeri a legitim védelem jogát, ahogy azt is, hogy bizonyos körülmények között a fegyveres erő alkalmazása elkerülhetetlenné válhat. Egy dolgot azonban nem enged el: az erkölcsi törvény a háborúban sem függeszthető fel.

Éppen ezért számít, ki hozza meg a döntést.

Egy gép képes lehet gyorsabban felismerni egy célpontot, pontosabban kiszámítani a röppályát, vagy hamarabb reagálni, mint egy katona. De nincs lelkiismerete, nem ismeri a kétséget, nem érzi a felelősséget, és nem tudja, mit jelent elvenni egy ember életét.

A Nemzetközi Vöröskereszt ezért régóta azt sürgeti, hogy az embereket önállóan kiválasztó és megtámadó autonóm fegyvereket szigorú nemzetközi szabályok korlátozzák, illetve bizonyos esetekben tiltsák. Nem azért, mert minden automatizált katonai rendszer önmagában elfogadhatatlan, hanem mert vannak döntések, amelyekből nem lehet egyszerűen kivonni az embert.

A technológia fejlődése ugyanis rendre ugyanabba a csapdába visz bennünket: előbb megkérdezzük, meg tudjuk-e csinálni, és csak utána, hogy meg kellett volna-e.

Az autonóm fegyvereknél ezt a sorrendet érdemes lenne végre megfordítani.

Mert egy algoritmus felismerheti az embert.

Célpontnak is jelölheti.

Csak azt nem fogja soha érteni, hogy kit ölt meg.