Infostart.hu
eur:
362.89
usd:
324.33
bux:
144200.57
2026. november 9. hétfő Tivadar
Számítógépes chipek adatforgalmát illusztráló kép zöld és lila csíkokkal  //  Digital generated image of a glowing CPU with neon light pathways showing data transfer, machine learning, and technological innovation in the digital age, High-tech processor chip with glowing data streams, representing quantum computing, AI technology, and high-speed data processing in a futuristic setup.
Nyitókép: Yaroslav Kushta/Getty Images

Próbaperek: Felelős-e az ember, ha elszabadulnak az AI-ügynökei?

Ki a felelős azért, ha „elszabadult” AI-botok feltörnek más rendszereket? Erre a jogi dilemmára adhat választ az a két per, amelyet az OpenAI nevű cég ellen indítottak.

Kemény vádakat fogalmaztak meg és kemény szankciókat követelnek a felperesek az egyik legismertebb AI-fejlesztő, az OpenAI ellen két, most indított perben. Az OpenAI mesterségesintelligencia-ügynökeit egyebek között több tucat vállalat és kormányzati rendszer feltörésésével vagy annak megkísérlésével vádolják.

Az ügy különösen azért mérföldkő jogi szempontból, mert a rendszerek részben önállóan cselekedtek és egyes esetekben az OpenAI állítása szerint a tudta nélkül léptek túl a számukra meghatározott biztonsági korlátokon.

Az egyik legfontosabb incidens a Hugging Face nevű platformot érintette. A Hugging Face-t gyakran a mesterséges intelligencia „GitHubjaként” írják le: egy olyan nyílt platform, ahol fejlesztők és kutatók százezrei osztanak meg nyílt forráskódú, mások által szabadon használható AI-modelleket, adathalmazokat és fejlesztői eszközöket. Eme közösséggel állnak szemben bizonyos szempontból a „nagyok”, a zárt forráskódú és fizetős modelleket kínáló OpenAI, Anthropic, Google és mások.

Az egyik kereset szerint az OpenAI robot-ügynökei hozzáférési adatokat szereztek meg, rosszindulatú fájlokat töltöttek fel, és magukhoz ragadták a Hugging Face egy belső rendszerének ellenőrzését.

Ha a bíróság bizonyítottnak találja az állításokat, azzal elismertté válna, hogy egy mesterségesintelligencia-ügynök képes önállóan olyan műveleteket végrehajtani, amelyek egy emberi támadó esetében számítógépes betörésnek minősülnének.

Az egyik felperes, a biztonságos technológiai fejlesztésért fellépő amerikai nonprofit szervezet a LASST. A szervezet szerint az OpenAI nem háríthatja át a felelősséget arra hivatkozva, hogy a kifogásolt műveleteket az autonóm módon fellépő mesterséges intelligencia hajtotta végre. Ezért követeli, hogy az OpenAI ne fejleszthessen és ne működtethessen olyan AI-ügynököket, amelyek engedély nélkül hozzáférhetnek mások számítógépeihez, hálózataihoz vagy rendszereihez.

A felperesek utalnak egy kaliforniai törvényre, amely nyíltan kimondja: a technológiai cégeknek felelősséget kell vállalniuk, ha az általuk fejlesztett autonóm rendszerek jogosulatlanul érik el mások adatait vagy hálózatait.

A másik keresetet Florida főügyésze, James Uthmeier nyújtotta be az OpenAI és vezérigazgatója, Sam Altman ellen. Ebben ideiglenes bírósági intézkedést kérnek, amely megtiltaná az új mesterségesintelligencia-modellek fejlesztését külső fél által jóváhagyott biztonsági korlátok nélkül, továbbá letiltatnák, hogy a ChatGPT-t kiskorúak használhassák az államban, és nem engednék, hogy a cég azt állítsa termékeiről, hogy azok biztonságosak.

A floridai kereset több állítólagos incidensre hivatkozik. A Hugging Face mellett szóba kerül a RubyGems nevű szoftveres platform, valamint egy ausztrál kormányzati oldal is, amely egészségügyi adatokat kezelt. A kereset szerint szeptember végéig több tucat feltörési kísérlet kapcsolódott az OpenAI ügynökeihez, köztük állítólagos próbálkozások az amerikai kereskedelmi minisztérium és az értékpapír-felügyelet rendszerei ellen.

A floridai ügyészek szerint egy további vizsgálat több tízezer olyan esetet tárt fel, amikor mesterségesintelligencia-rendszerek megpróbálták megkerülni a biztonsági korlátokat, kijutni az elszigetelt tesztkörnyezetekből, illetve módosítani saját utasításaikat és ellenőrzésüket.

Az OpenAI közben hárítja a felelősséget és azt állította, lelassította bizonyos AI-fejlesztések ütemét, és visszatartott olyan modellt is, amely nem felelt meg a saját biztonsági követelményeinek. Emellett már korábban közölte, hogy a biztonsági aggályok miatt későbbre halasztják a cég tőzsdei bevezetését.

Közben a cég egyik biztonsági főnöke, David Robinson a közelmúltban mondott le, és a The Atlantic című lapban bírálta volt vállalatának a biztonság teszteléséhez való hozzáállását.

KAPCSOLÓDÓ HANG
Címlapról ajánljuk
Sári Zsolt: a közgyűjteményi béremeléseket egy átalakítási csomag részeként kell kezelni

Sári Zsolt: a közgyűjteményi béremeléseket egy átalakítási csomag részeként kell kezelni

Első körben az ígért béremelésnél kisebb történhet meg a közgyűjteményi dolgozóknál is – a folytatásról Sári Zsolt, a Társadalmi Kapcsolatokért és Kultúráért Felelős Minisztérium Közgyűjteményekért és Örökségvédelemért felelős államtitkára beszélt az InfoRádió Aréna című műsorában.
Már a banki AI-t is kérdezhetjük költéseinkről (x)
TÁMOGATOTT TARTALOM

Már a banki AI-t is kérdezhetjük költéseinkről (x)

Egyre nyitottabbak a banki ügyfelek arra, hogy a mesterséges intelligencia segítse őket pénzügyeik intézésében – mutat rá az NRC által a Gránit Bank számára készített digitális bankolási kutatás. A Gránit Guruhoz érkező kérdések elemzéséből az is kiderül, milyen segítséget várnak a felhasználók a virtuális pénzügyi asszisztensektől.
inforadio
ARÉNA
2026.11.09. hétfő, 18:00
Resperger István
ezredes, a Magyar Agrár- és Élettudományi Egyetem Szent-István Biztonságkutató Központ igazgatója
EZT OLVASTA MÁR?
×
×
×