Nyitókép: Pixabay

Mesterséges intelligencia: elrabolt gyermeke sírását hallotta a telefonban – videó

Infostart / InfoRádió - Szvetnik Endre (London)
2023. június 18. 20:08
Egy arizonai anya feldúlva mesélt arról az esetről, amikor azzal hívták, hogy elrabolták a lányát. A vonal másik végéről hallotta a gyereke hangját – csakhogy azt valójában mesterséges intelligenciával generálták csalók. A nő most a csalásokat vizsgáló szenátusi bizottság előtt tett vallomást.

„Figyelj csak ide, itt van nálunk a lányod. Nem hívsz senkit, nem hívod a zsarukat... Elkezdtem sikítani” – mesélte Jennifer DeStefano arizonai anya az Inside Story című műsornak arról a pillanatról, amikor meghallotta, hogy állítólagos emberrablóknál van a lánya. Hallotta a 15 éves gyereke hangját is, aki sírt és azt zokogta: „Anya, ezek a rossz emberek elkaptak, segíts, segíts!”

Csakhogy az egész egy nagy átvágás volt: csalók mesterséges intelligencia segítségével készítették el a segélykérő felvételt és játszották be DeStefanonak. Az anyának az volt a szerencséje, hogy másik lánya táncpróbáján érte a hívás, és a többi szülő tanúja volt az esetnek. Az egyik elmondta neki, hogy

ismertek a hasonló, mesterséges intelligenciát használó csalások.

DeStefano tárgyalásba kezdett az "emberrablóval", aki először egymillió dollárt akart, de később már 50 ezerre vitte le a követelését, és elmondta, hová vigye a készpénzt. Átutalást nem fogadott volna el, mert "azt le lehet követni" – mondta, és azzal is fenyegetőzött, hogy megerőszakolja és megöli a lányt.

Közben a szülők hívták a rendőrséget, az anya pedig a sítúrán lévő fiát, aki átadta a telefont az állítólag elrabolt lányának.

A rendőrség viszont először azzal utasította el a feljelentést, hogy csak "vicceltek vele".

De hogyan sikerült majdnem átverni a rettegő anyát? Az esetről tudósító Inside Story műsornak Hany Farid, a Berkeley Egyetem digitális hamisítványokat kiszűrő professzora mesélt erről: "A YouTube-on megkerestem az ön egy anyagát. Feltöltöttem a hangját egy oldalra, amiért havi öt dollárt fizetek. Harminc másodperc alatt klónozta a hangját. Beírtam, hogy ön mit mondjon, és megkaptam a kész audiót."

Az Inside Story bejátszotta a riporter, Allison Hall eredeti hangját, majd a Farid professzor által készített audiót is. A hasonlóság kísérteties volt, bár utóbbin elég monoton hangon mondta Hall, hogy elrabolták.

Közben az anya az amerikai Kongresszus előtt tett vallomást, és kérte a törvényhozókat: szabályozzák a mesterséges intelligenciát, illetve a rosszindulatú felhasználók büntetését.

"Amikor felhív a gyereked és segítséget kér, akkor megkérdezed: tényleg te vagy és leteszed? Ez az új normalitás?" – tette fel a kérdést a képviselőknek.


KAPCSOLÓDÓ HANG:
Mesterséges intelligencia: elrabolt gyermeke sírását hallotta a telefonban
A böngészője nem támogatja a HTML5 lejátszást