A mesterséges intelligencia keresztapjának is nevezett Hinton szerint a chatbotok veszélyei nagyon ijesztőek - írja a BBC.
"Ma nem gondolom, hogy intelligensebbek lennének nálunk, de attól tartok, hogy hamarosan okosabbak lesznek, mint mi" - fogalmazott.
Hinton úttörő kutatásai a mélytanulás és a neurális hálózatok terén előkészítették az utat a jelenlegi mesterséges intelligencia alapú rendszerek, például a ChatGPT számára. A brit-kanadai kognitív pszichológus és informatikus azonban a BBC-nek elmondta, hogy a chatbot hamarosan több információ tárolására lesz képes, mint az emberi agy.
"Jelenleg azt látjuk, hogy a GPT-4-hez hasonló rendszerek leiskolázzák az embert az általános tudás mennyiségében, méghozzá nem is kicsit. Érvelni nem tud olyan jól, de egyszerűbb gondolkodásra már képes. A fejlődés ütemét tekintve arra számítunk, hogy elég gyorsan javulni fog, emiatt emiatt aggódnunk kell" - fogalmazott.
A New York Times számára írt cikkében Hinton úgy fogalmazott, rossz célra is fel lehet használni a chatbotokat. Amikor a BBC rákérdezett, mire gondolt pontosan, elmondta: ezek valódi rémálom-szcenáriók, például ha Vlagyimir Putyin orosz elnökhöz hasonló döntéshozók arra kérnék meg a chatbotokat, hogy saját célokat határozzanak meg saját elhatározásaikat támogatva.
A szakember arra figyelmeztetett, hogy ez végül olyan részcélokhoz vezethet, mint például az, hogy a mesterséges intelligencia több hatalmat próbál szerezni.
"Arra a következtetésre jutottam, hogy az a fajta intelligencia, amit fejlesztünk, nagyon különbözik attól az intelligenciától, amivel rendelkezünk.
Mi biológiai rendszerek vagyunk, ezek pedig digitális rendszerek.
A nagy különbség az, hogy a digitális rendszereknél sok másolata van ugyanannak a világmodellnek. Mindezek a másolatok külön-külön tanulhatnak, de azonnal megoszthatják egymással tudásukat, tehát a chatbotok többet tudnak, mint bármely ember" - fogalmazta meg aggodalmát.
Hangsúlyozta, hogy nem akarja kritizálni a Google-t, és hogy a technológiai óriás "nagyon felelősségteljesen" járt el - sőt, jó dolgokat akar mondani a cégről most is, hogy már nem dolgozik nekik.
Jeff Dean, a Google vezető kutatójának nyilatkozata szerint a cég továbbra is elkötelezett a mesterséges intelligencia felelős megközelítése mellett, és folyamatosan tanulnak, hogy megértsék a felmerülő kockázatokat, miközben bátran újítanak is.