Egy 19 éves amerikai egyetemista tanácsot kért a ChatGPT-től, hogyan szedjenegy szorongás kezelésére használt depresszánst, és a kratom gyógynövénykivonatot, egy opioidszerű tulajdonságokkal rendelkező, függőséget okozó fájdalomcsillapítót.

Az Economx cikke szerint több mint 18 hónapon át folytatott beszélgetéseinek átiratai azt mutatják, hogy a chatbot pontos adagokat adott a drogkoktélokhoz, és biztosította arról, hogy amit csinál, az biztonságos.

Halála estéjén a pszichológia szakos másodéves egyetemista megkérdezte a ChatGPT-től, hogy a Xanax kis mennyiségben enyhítheti-e a kratom okozta hányingert, miután a tinédzser már bevett 15 gramm kratomot. A chatbot először figyelmeztette, hogy a kombináció veszélyes, és hogy ne szedjen Xanaxot, ha alkoholt fogyasztott, majd azt írta, hogy a Xanax segíthet megnyugtatni a testet.

Két héttel a tizenéves halála után készült toxikológiai jelentés megállapította, hogy

Sam Nelson halálát alkohol, Xanax és kratom halálos kombinációja okozta, amely valószínűleg központi idegrendszeri depressziót okozott, ami fulladáshoz vezetett.

Az elhunyt fiatal anyja, egy Texasban élő ügyvédnő azt mondta, hogy fia a ChatGPT-t a legjobb barátjának tekintette, akire bármikor számíthatott.

A tragédiáról beszámoló The Telegraph megkereste az OpenAI-t. Szóvivőjük részvétét fejezte ki a családnak, de azt is megemlíti, hogy Sam Nelson interakciói a ChatGPT egy korábbi verziójából származnak, az újabb verziók már erősebb biztonsági korlátokat tartalmaznak.