Az OpenAI hosszas előkészítés után megkezdte az életkor-ellenőrzés globális bevezetését a ChatGPT-be – írja a vállalat közleménye alapján a 24.hu.
A ChatGPT egy életkor-előrejelzési modellt használ annak megállapítására, hogy egy fiók 18 év alatti személyhez tartozik-e. Ez több olyan jelet is figyelembe vesz, ami a felhasználó viselkedésével kapcsolatos, így például megnézi, mikor hozták létre a fiókot, a nap mely szakában van aktivitás, felméri a felhasználói adatokat, valamint azt is, hogy az illető milyen életkort adott meg.
Ha a rendszer tévesen 18 év alattinak minősít valakit, akkor a felhasználónak a Persona nevű életkor-ellenőrző platformon kell beküldenie magáról egy fotót.
A lépéssel csökkenteni szeretnék a még fejlődő korban lévők kitettségét olyasmiknek, mint például
- az olyan népszerű kihívások, amelyek kockázatosak a kiskorúak számára,
- szexuális, romantikus vagy erőszakos tartalmak,
- az önkárosítás ábrázolása,
- valamint minden olyan tartalom, amely szélsőséges szépségideálokat, egészségtelen étrendet vagy testszégyenítést mutat be.
A közelmúltban több eset is felmerült, amikor a chatbot hozzájárulhatott öngyilkosságokhoz.
Tavaly év végén például csak Kaliforniában 7 pert indítottak a ChatGPT manipulatív, öngyilkosságot támogató üzenetei miatt.
A felperesek – akik többségét az öngyilkosságot elkövető személyek családtagjai teszik ki – keresetei szerint a mesterségesintelligencia-alapú chatbottal folytatott interakciók hozzátartozóik súlyos mentális összeomlásához és halálához vezettek.