Tavaly 4419 bejelentést kapott a Nemzetközi Gyermekmentő Szolgálat által működtetett biztonsagosinternet.hu hotline, ahol a világhálón talált illegális, káros tartalmakat jelenthetik be a felhasználók. Új jelenség, hogy egyre több a generatív mesterséges intelligencia által előállított tartalom.

A Safer Internet Center projektmenedzsere az InfoRádióban elmondta: 2019 óta működik az online felület, melynek elsődleges célja, hogy a lehető legrövidebb időn belül eltüntessék az internetes platformokról azokat a jogsértő tartalmakat, amelyek veszélyesek lehetnek a gyermekek fejlődése szempontjából. A Safer Internet Center elemzői rendre megvizsgálják a felhasználók által elküldött kifogásolt tartalmakat, és a vonatkozó törvények alapján eldöntik, hogy jogellenesek-e vagy károsak-e azok. Ha szükséges, az illetékesek kikérik a rendőrség véleményét, illetve segítséget kérnek a hatóságoktól, hogy távolítsák el a káros tartalmakat, linkeket.

Vápár Zsófia hozzátette: egy űrlapot kell kitölteniük a bejelentőknek az említett weblapon. Mint fogalmazott, a hotline legfontosabb rendeltetése, hogy

megóvja a gyermekeket a szexuális bántalmazásoktól, illetve a kizsákmányolásoktól.

Az elmúlt évek hazai statisztikai adatai alapján a bejelentett illegális tartalmak háromnegyede gyermekek szexuális bántalmazásával volt kapcsolatos. Az elemzők visszajelzései alapján egyre több esetben valósul meg adathalászat is, amikor bizonyos oldalak különböző webshopok, bankok arculatát lemásolva személyes adatokat, bankkártyaadatokat próbálnak meg kicsalni az emberektől.

A hotline szakértő elmondta: a Safer Internet Center tavaly reagált erre a trendre, amikor különféle újításokat vezettek be a biztonsagosinternet.hu oldalon. Így került külön kategóriába az elemzéseknél az adathalászat, valamint a pénzügyi csalás, melyek korábban az egyéb káros kategóriába kaptak besorolást.

A mesterséges intelligencia veszélyei

A technika, illetve az internet fejlődésével folyamatosan újabb káros jelenségek nyernek teret a világhálón. Vápár Zsófia figyelmeztetett, hogy a mesterséges intelligenciának nemcsak előnyei vannak, hanem sok kárt is okozhat, valamint nagy veszélyt jelenthet a gyermekek fejlődése szempontjából. A szakértő hozzátette: idei riportanyagukból kiderült, hogy

a szexuális bántalmazást ábrázoló anyagokhoz kapcsolódó bejelentések 23 százaléka volt olyan, amelyeknél vélhetően a mesterséges intelligenciát is igénybe vették.

Az egyik ilyen jelenség, amikor valódi gyerekeket ábrázoló ártatlan képeket, videókat manipulálnak, vagy valamilyen szexualizált kontextusba ültetik át ezeket a tartalmakat. Főleg olyan képekről van szó, melyeket szülők, családtagok osztanak meg kiskorúakról a közösségi oldalakon. Ezeket bármikor el lehet torzítani vagy erkölcstelen célokra is felhasználhatják az elkövetők, ezért Vápár Zsófia azt tanácsolja mindenkinek, hogy jól gondolja meg, milyen képeket, videókat oszt meg az egyes platformokon.

„A különböző MI-platformoknak is rendkívül nagy a felelősségük abban, hogy küzdjenek az ártalmas tartalmak terjesztése ellen. Arra mindenképpen figyelni kell, hogy legyenek különböző tiltott szavak, amelyek azért hasznosak, mert azokra nem tud káros tartalmat generálni az MI” – magyarázta a Safer Internet Center projektmenedzsere.