A Stable Diffusion nevű, grafikusok által használt programhoz nyúlnak rossz szándékkal a gyermek pornográf tartalmakkal kereskedők a BBC nyomozása szerint. A szoftver a felhasználó utasítása, egy szöveges prompt alapján állít elő képeket - amit élethű szexuális felvételek készítésére is használnak.
A brit hatóságok azt állítják, már találkoztak is olyan jogsértő tartalmakkal, melyeket a mesterséges intelligencia készített.
A képeken akár csecsemőkkel vagy kisgyermekekkel szemben elkövetett erőszak is látható.
"Amióta a mesterséges intelligencia által generált képek is elérhetők, ezek hatalmas áradata jelent meg: nemcsak nagyon fiatal lányok, de már kisgyermekek is szerepelnek ezeken" - fogalmazott Octavia Sheepshanks szabadúszó újságíró és kutató, aki egy gyermekjóléti szervezeten keresztül kereste meg a témával a BBC-t.
A számítógép által generált képeket, amely gyermekek szexuális zaklatását ábrázolják, az Egyesült Királyságban ugyanúgy kezelik, mint egy valódi képet, ezért illegális a birtoklása, közzététele vagy továbbítása az Egyesült Királyságban. Ian Critchley, a gyermekvédelemért felelős országos tanács (NPCC) vezetője szerint helytelen lenne azt állítani, hogy mivel az ilyen képeken nem valódi gyermekeket ábrázoltak, senkinek sem esett bántódása.
Figyelmeztetett arra, hogy egy pedofil "a gondolattól az ilyen képeken át a hús-vér gyermekek bántalmazásáig haladhat a bűncselekmények skáláján".
A képek készítői közül vannak, akik a Pixiv nevű, népszerű japán közösségi médiaplatformon posztolnak, amelyet főként mangákat és animéket megosztó művészek használnak. Az oldal Japánban bejegyzett, ahol a szexualizált rajzfilmek és gyermekrajzok megosztása nem illegális, így az alkotók arra használják azt, hogy csoportokban és hashtageken keresztül népszerűsítsék munkáikat.
A Pixiv szóvivője elmondta, hogy óriási hangsúlyt fektetnek a probléma kezelésére. Május 31-én közölte, hogy betiltotta a kiskorúakat érintő szexuális tartalmú, valósághű ábrázolásokat.
Sheepshanks kutatásai szerint úgy tűnik, hogy a felhasználók ipari méretekben készítenek gyermekeket ábrázoló hasonló képeket: akár havi ezer is készülhet egyetlen felhasználó kezei közt.
A Pixiv felhasználóinak egy része a Patreonra tereli azokat, akik képeiket megtekintik. Itt nagyságrendileg 250 ezer alkotó oszt meg blogbejegyzéseket, videókat, képeket és podcasteket előfizetőivel, a legtöbb fiók elismert művészekhez, újságírókhoz és más alkotókhoz tartozik. A követők akár igen kis összegű hozzájárulásukkal támogathatják őket.
Most azonban az is kiderült, hogy mesterséges intelligencia generálta pedofil tartalmakat is el lehet érni a Patreonon.
A BBC elküldte egy ilyen fiók linkjét az oldal üzemeltetőinek, akik zéró toleranciáról beszéltek a hasonló tartalmak kapcsán és az érintett felhasználót is azonnal tiltották állításuk szerint.
A Patreon szerint a mesterséges intelligencia által generált káros netes tartalmak mennyiségének növekedése "valós és aggasztó", és a cég is "egyre több ilyen anyagot azonosít és távolít el".
A Stable Diffusion készítője, a Stability UK tiltja az ilyen tartalmak előállítását. A vállalat tavaly tett elérhetővé egy korábbi "nyílt forráskódú" változatot a programból, amely lehetővé tette a felhasználók számára, hogy eltávolítsanak minden szűrőt, és bármilyen - akár illegális - képet készítsenek vele.