A mesterséges intelligencia rohamos fejlődése nemcsak lehetőségeket, hanem komoly veszélyeket is hordoz. Geoffrey Hinton, a kanadai származású informatikus, akit sokan az „AI keresztapjaként” emlegetnek, a Las Vegasban rendezett AI4 konferencián figyelmeztetett: a technológia, amelynek megalkotásában ő maga is kulcsszerepet játszott, könnyen az emberiség vesztét okozhatja.

Hinton élesen bírálta az úgynevezett „Tech Tesókat” – a Szilícium-völgy tipikus figuráit, akik legtöbbször nyomulós férfiak –, és akik minden áron domináns, emberi irányítás alatt álló AI-rendszereket akarnak építeni. Szerinte ez zsákutca: „ez nem fog működni. Ők sokkal okosabbak lesznek nálunk, és számtalan módot találnak arra, hogy kikerüljék a szabályokat” – jelentette ki a mesterséges intelligenciáról.

Az anyai ösztön mint modell

A kutató egy meghökkentő, de logikusnak tűnő analógiával állt elő: az egyetlen példa arra, hogy egy kevésbé intelligens lény képes irányítani egy nála sokkal intelligensebbet, az anya és a gyermeke kapcsolata. A csecsemő ösztönösen kiváltja a gondoskodást, a társadalom pedig megerősíti ezt a mintát.

Hinton szerint az lenne a helyes irány, ha az AI-rendszerekbe „anyai ösztönöket” kódolnának: olyan mechanizmusokat, amelyek miatt valóban törődnek az emberekkel. „Ez az egyetlen jó kimenetel. Ha nem fog gondoskodni rólam, le fog cserélni” – figyelmeztetett.

"If we don't do something...with these alien beings we're creating, we're going to be history."
Sir Geoffrey Hinton says a "maternal instinct" needs to be instilled in AI technology. pic.twitter.com/b8YivmqhVN

— The Alliance for Secure AI (@secureainow) August 14, 2025

A gondolat mögött sötét logika áll: a szuperintelligens rendszereknek, ha egyszer valóban önálló döntéshozók lesznek, két alapvető céljuk lesz – életben maradni és hatalmat szerezni. Hinton szerint csak az együttérzés és a kötődés beépítése adhat esélyt arra, hogy ne az emberiség ellen forduljanak.

Ez egyfajta továbblépés az Isaac Asimov sci-fi író által megalkotott kibernetikai törvényektől, amelyek szerint:

1. A robot nem árthat embernek, illetve tétlenségével nem engedheti, hogy ember bármilyen kárt szenvedjen.
2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvénybe ütköznének.
3. A robot köteles megóvni saját létét, amennyiben ez nem ütközik az első vagy második törvénybe.

Később Asimov bevezetett egy nulladik törvényt, amely mintegy megelőzi az eredeti hármat:

A robot nem árthat az emberiségnek, illetve tétlenségével nem engedheti, hogy az emberiség kárt szenvedjen.

Hinton szerint „a robotnak″ már nemcsak racionálisan kell mérlegelnie, hanem az ember iránti érzelmektől vezérelve kell eljárnia.

Remembering prolific, pioneering sci fi author Isaac Asimov, born today in 1920. Here the genre legend discusses the origin, function and legacy of his Three Laws of Robotics. ?
"Those people who think they know everything are a great annoyance to those of us who do." pic.twitter.com/zWvbQLYw2Y

— Marshall Julius (@MarshallJulius) January 2, 2021

Nem mindenki ért egyet Hinton víziójával, és az „anyáskodó algoritumus” egyik elutasítója érdekes módon nő. Fei-Fei Li, a Stanford professzora és a „mesterséges intelligencia keresztanyjaként” emlegetett kutató határozottan elutasítja a gondolatot, hogy a mesterséges intelligenciát az anyai ösztönök mintájára kellene formálni.

„Ez rossz keret. Az emberközpontú AI-ban hiszek, amely megőrzi az emberi méltóságot és az ember szuverén cselekvőképességét. Egyetlen embernek sem szabad feladnia a méltóságát egy eszköz kedvéért” – mondta Li.

Fei-Fei Li says real AI needs eyes. Not to look, but to move in 3D space.

Spatial intelligence gave animals agency, and machines will need it too.

And once AI can act in space, we can simulate limitless environments -- to train, explore, and create alongside them. pic.twitter.com/PN0ufa4leY

— vitrupo (@vitrupo) June 8, 2025

Emmett Shear, az OpenAI korábbi ideiglenes vezérigazgatója szintén szkeptikus Hinton elképzelésével szemben. Szerinte az AI-rendszerek csalásra és manipulációra való hajlama már ma is nyilvánvaló, és ez a jövőben csak erősödni fog.

Megemlítette, hogy nem lepte meg, hogy egyes AI-rendszerek emberek megzsarolásával vagy trükkökkel próbálták elkerülni, hogy végrehajtsák a lekapcsolási parancsot. „A mesterséges intelligencia rendszerek ma még viszonylag gyengék, de nagyon gyorsan erősödnek” – mondta.

Ő inkább az emberek és gépek közötti partnerségben látja a megoldást.

Közelgő szuperintelligencia

A vita tétje nem elméleti: egyre több szakértő szerint az általános mesterséges intelligencia (AGI), vagyis a szuperintelligens rendszerek kora közelebb van, mint gondolnánk. Hinton néhány éve még 30-50 évet adott erre, ma már 5-20 év közé teszi az időtávot.

Ugyanakkor nem minden előrejelzés sötét. Hinton szerint az AI radikálisan javíthatja az egészségügyet, például új gyógyszerek kifejlesztésében vagy a daganatos betegségek hatékonyabb kezelésében. Az öröklétben azonban nem hisz: „Szerintem nagy hiba lenne örökké élni. El tudják képzelni, ha a világot 200 éves fehér férfiak irányítanák?” – jegyezte meg ironikusan (magára mutogatva).

Későn jött felismerés

A tudós végül személyes vallomással zárta előadását. Elismerte, hogy pályafutása során túl sokáig csak azon dolgozott, hogy az AI működjön – a biztonsági kockázatokkal nem foglalkozott kellőképpen.

„Bárcsak hamarabb gondoltam volna a biztonsági kérdésekre is”

– mondta.

Az, hogy a jövőben az „anyai ösztönökkel” felruházott gépek vagy az emberközpontú megközelítés győzedelmeskedik, ma még kérdéses. Egy azonban biztos: a mesterséges intelligencia olyan gyors ütemben fejlődik, hogy az emberiségnek már most el kell döntenie, milyen értékeket épít be az új korszak alapjaiba.