A gyors előrelépéssel azonban egy másik kérdés is egyre gyakrabban kerül elő: meddig maradnak biztonságosan ellenőrizhetők ezek a rendszerek?

A France 24 összeállítása a mesterséges intelligencia veszélyeit is a nemzetközi közbeszéd fontos kérdései között tárgyalja. A vita egyik legszélsőségesebb, ugyanakkor egyre gyakrabban felmerülő eleme az úgynevezett egzisztenciális kockázat.

Mit jelent az egzisztenciális kockázat?

A fogalom nem azt jelenti, hogy a jelenleg használt mesterséges intelligencia közvetlenül az emberiség pusztulásával fenyeget. Az egzisztenciális kockázatról szóló vita elsősorban azt vizsgálja, mi történhet akkor, ha a jövőben olyan, a jelenleginél lényegesen fejlettebb rendszerek születnek, amelyek működését az ember már nem képes megfelelően ellenőrizni.

A legsúlyosabb forgatókönyvek azzal számolnak, hogy egy rendkívül fejlett rendszer céljai eltérhetnek az ember által meghatározott szándékoktól. Ebben az esetben nem feltétlenül egy tudatosan „gonosz” gépről lenne szó, hanem arról, hogy egy rosszul meghatározott feladat végrehajtása kiszámíthatatlan következményekkel járhat.

Ez azonban kockázati forgatókönyv, nem bizonyított jövőkép. A mesterséges intelligencia hosszú távú veszélyének nagyságáról a kutatók és a technológiai szakemberek között sincs teljes egyetértés.

Nem csak a távoli jövő okoz aggodalmat

A mesterséges intelligenciával kapcsolatos biztonsági vita ugyanakkor nem kizárólag az emberiség jövőjéről szól. Sokkal közelebbi problémák is megjelentek.

Az AI segítségével egyre könnyebben készíthetők megtévesztő képek, hangfelvételek és videók, miközben a technológia kibertámadásokban vagy manipulációs kampányokban is felhasználható. Szintén kérdés, hogyan változtatja meg a munkaerőpiacot, milyen adatok alapján hoznak döntéseket az algoritmusok, illetve ki viseli a felelősséget, ha egy mesterségesintelligencia-rendszer hibázik.

Éppen ezért a vita egyik központi kérdése már nem az, hogy szükség van-e biztonsági szabályokra, hanem az, hogyan lehet úgy fejleszteni a technológiát, hogy annak előnyei mellett a kockázatok is kezelhetők maradjanak.

A mesterséges intelligencia fejlődése nem áll meg

A technológiai verseny közben folytatódik, és a mesterséges intelligencia egyre több területen jelenik meg az egészségügytől és az oktatástól a gazdaságon át a tudományos kutatásig.

A következő évek egyik legfontosabb kérdése ezért az lehet, hogy a szabályozás és a biztonsági kutatások képesek-e lépést tartani a fejlesztések sebességével. Az emberiség végét előrevetítő forgatókönyvek egyelőre hipotetikusak, de az AI biztonságos fejlesztéséről folyó vita nagyon is valós.