A Deloitte Australia részben visszatéríti azt a megbízási díjat, amelynek fejében az ausztrál kormányzat számára az ország szociális ellátórendszerének egyes részeit vizsgálták felül, mivel a riportban nem létező forrásokra hivatkoznak – írta meg az Ars Technica.

A 290 ezer amerikai dollárnak megfelelő összegért cserébe elkészített jelentés az ausztrál Foglalkoztatási és Munkaügyi Kapcsolatok Minisztériuma (DEWR) részére készült, 2025 augusztusában tették közzé. Középpontjában a kormány által a szociális ellátórendszerben alkalmazott büntetések automatizálására használt technikai keretrendszer áll.

Nem sokkal a jelentés közzététele után Chris Rudge, a Sydney-i Egyetem egészségügyi jogi igazgatóhelyettese észrevette, hogy a dokumentum több, nem létező tanulmányra és publikációra is hivatkozik. A források között több hivatkozás is szerepel Lisa Burton Crawford, jogi professzor munkáira. Bár a professzor létezik, a hivatkozott anyagok nem léteznek.

„Aggasztó, hogy ilyen módon nekem tulajdonított kutatási eredmények jelentek meg”

– kommentálta a professzor az esetet. Hozzátette, szívesen venne egy magyarázatot a Deloitte-tól, hogy ezeket a hivatkozásokat hogyan hozták létre.

A magyarázat a DEWR honlapján jelent meg. Azt írták, frissült a riport „néhány javítással, amelyek a forrásokat, és a lábjegyzeteket érintik”. A dokumentum emellett kiegészült egy megjegyzéssel is arról, hogy „egy generatív AI nagy nyelvi modell (Azure OpenAI GPT-4o) segítségével működő eszközlánc” is szerepet kapott annak felmérésében, összeegyeztethetők-e a különböző követelmények.

A frissített változatban az eredeti 141 forrásból már csak 127 jelenik meg. Amellett, hogy a megblöffölt hivatkozásokat eltávolították ezek közül, egy hamis idézetet is kihúztak a jelentésből. Az utóbbi esetében egy létező bírónő létező ítéletéhez kapcsolódva hozott létre az AI egy nem létező idézetet.

A Deloitte Australia közölte, a munka ellenértékének utolsó részletét vissza fogja fizetni a kormányzatnak, bár az nem egyértelmű, hogy mekkora összegről van szó. A DEWR szóvivője úgy nyilatkozott, a jelentés megállapításai lényegükben ugyanazok maradtak, a javaslatokban nincsen változás.

Chris Rudge ezzel szemben úgy nyilatkozott, nem lehet megbízni ezekben a javaslatokban, hiszen hibás, szakmaiatlan alapokra épülnek. Hozzátette,

a Deloitte ugyan bevallotta, hogy AI-t használt

egy alapvető elemzési feladat elvégeztetésére, de ezt nem jelezte előzetesen.