Több országban eljárás indult az ügyben, Nagy-Britanniában pedig a médiaszabályozó hatóság, az Ofcom adatokat kért be az X-től a Grok működéséről. Brazíliában egy parlamenti képviselő egyenesen odáig ment, hogy az AI-robot felfüggesztését kérte.

Az ok, az Elon Musk tulajdonát képező X platform saját mesterséges intelligenciáját egyre többen használják szexuális tartalmak létrehozására – például arra, hogy „vetkőztesse le” a feltöltött fotókon látható nőket – azok beleegyezése nélkül. A legismertebb „áldozat” Katalin hercegnő, az angol trónörökös felesége. A Grok a múlt héten már bocsánatkérésre kényszerült, amikor két kiskorú lány fényképét is manipulálták vele. A gondot csak tetézte, hogy Musk cége nemrég frissítette a Grok Imagine funkciót, amely egyszerűbbé tette a szöveges utasításokkal – promtokkal – indított képgenerálást.

Az Európai Bizottság szóvivője, Thomas Regnier hétfőn úgy fogalmazott: az ügyet mélyrehatóan vizsgálják, és tisztában vannak azzal, hogy az X és a Grok úgynevezett „pikáns módban” is használható, amely szexuális tartalmakat, köztük gyerekekre emlékeztető képeket is eredményez. Regnier szerint ez nem provokatív, hanem illegális, elfogadhatatlan és Európában nincs helye.

Indiában az elektronikai és informatikai minisztérium hétfőig adott határidőt az X-nek egy átfogó vizsgálatra. Malajziában a távközlési hatóság nyomoz, és beidézi a cég képviselőit. Az Egyesült Államokban pedig egy civilszervezet, a Szexuális Kizsákmányolás Elleni Központ szólította fel az igazságügyi minisztériumot és a Szövetségi Kereskedelmi Bizottságot, hogy indítsanak vizsgálatot.

Az amerikai igazságügyi minisztérium közölte: rendkívül komolyan veszik az AI által generált gyerekpornográf tartalmakat, és minden elkövetőt felelősségre vonnak.

A hatóság nem kívánt nyilatkozni, az xAI pedig egy automatikus válaszon túl nem kommentálta az ügyet. Az X először szombaton adott ki hivatalos közleményt, amelyben azt írta: eltávolítják az illegális tartalmakat, véglegesen felfüggesztik az érintett fiókokat, és együttműködnek a hatóságokkal.

Alapvető blokkolás hiánya

Elon Musk külön bejegyzésben jelezte: aki a Grokot illegális tartalom előállítására használja, ugyanolyan következményekre számíthat, mintha saját maga töltene fel ilyen anyagot. Bírálói viszont megjegyzik: az X-nek korábban is voltak vitatott esetei gyerekeket ábrázoló szexuális tartalmak kezelésében. Azt, hogy milyen bizarr helyzeteket kreál a technológia az is bizonyítja, hogy a napokban maga a Grok kért bocsánatot a két fiatalkorú lányt ábrázoló képért és elismerte, hogy hiba volt a védelmi rendszerekben.

Egy mesterséges intelligenciával foglalkozó cég vezetője szerint az xAI elmulasztotta a legalapvetőbb védelmek beépítését, amelyek például automatikusan blokkolhatták volna a gyerekeket vagy részleges meztelenséget ábrázoló képeket. A botrány mindeközben nem vetette vissza a platform népszerűségét. Egy elemzőcég adatai szerint a Grok letöltései január eleje óta több mint ötven százalékkal nőttek, míg az X letöltései három nap alatt negyedével emelkedtek.