Egyre több amerikai szenátor és képviselő sürget új szabályozásokat a mesterséges intelligenciára vonatkozóan, miután az Anthropic több kutatója is felhívta a figyelmet a benne rejlő veszélyekre – írja a 24.hu.

A Claude AI-asszisztenst fejlesztő cég egyik alkalmazottja, Jacob Coxon egy közösségi oldalon írt arról, hogy ez a technológia a közeljövőben kiirthatja az emberiséget. Úgy fogalmazott:

„Ma felmondtam az Anthropicnél. Az elmúlt három évet az OpenAI-nál és az Anthropicnél töltöttem, […] egyik cég sem cselekszik felelősségteljesen. Az önfejlesztő szuperintelligencia megalkotásáért versenyeznek, és közben az életünkkel játszanak.”

Az Anthropic egyik vezető kutatója, Evan Hubinger erre adott válaszában megerősítette az állításokat. Azt írta: „Jacobnak igaza van, tényleg úgy gondoljuk, hogy a mesterséges intelligencia végezhet minden emberrel. Személy szerint 10 százaléknál nagyobb esélyt látok rá, hogy ez már a következő évtizedben megtörténhet.”

Az iparág gyors fejlődésével kapcsolatos aggodalmaival két MI-biztonsági szakember is nyilvánosság elé lépett. Joe Benton, az Anthropic korábbi vezető kutatója egy szeptember 10-én megjelent NBC-interjúban kifejezte: tart tőle, hogy az AI fejlődése végül túlságosan felgyorsul ahhoz, hogy az emberiség időben reagáljon, hacsak nem kezdünk valamit a problémával. Josh Engels a Google DeepMind korábbi munkatársa pedig úgy fogalmazott: „Nincsenek felnőttek a szobában. Az emberek mindent megtesznek, ami tőlük telik, de nincs senki, aki megmentene minket”.

Az utóbbi hónapokban több aggasztó esemény is történt, a különböző AI-modellek és ügynökök többször is „önálló életre keltek” és olyasmiket műveltek, amikre senki sem kérte őket, illetve, amik a fejlesztőikben is aggodalmat keltettek.

Az eseményekre reagálva több amerikai szenátor és képviselő – demokraták és republikánusok egyaránt – felszólalt a mesterséges intelligencia szigorúbb regulációja érdekében. A Reuters beszámolója szerint Ted Cruz texasi republikánus szenátor például arról beszélt, hogy olyan törvényeket kellene alkotni, amelyekkel szabályozni lehet a mesterséges intelligenciában rejlő katasztrofális kockázatokat. Demokrata-republikánus összefogás is kialakult: John Thune republikánus és Amy Klobuchar demokrata szenátor közös törvényjavaslaton dolgozik, amely a tervek szerint azt is kimondaná, hogy a mesterséges intelligenciát fejlesztő vállalatoknak kormányzati szakértőkkel kellene együttműködniük.

Mindezek ellenére Donald Trump elnök szeptember 10-én azt nyilatkozta, egyáltalán nem tart attól, hogy az AI idővel az emberiség kihalását okozná, attól viszont igen, hogy az Egyesült Államok elveszíti a technológiai versenyt, és hátrányba kerül Kínával szemben.

Az Egyesült Államok ebben a hónapban arra kérte a G20 országait, hogy az AI szabályozásában tartózkodjanak a túlzott beavatkozástól.