eur:
402.37
usd:
384.22
bux:
87726.7
2025. február 17. hétfő Donát
Nyitókép: Pixabay/MI

Meglepően könnyen manipulálható a ChatGPT

A vizsgálatok megállapították, hogy az OpenAI által fejlesztett ChatGPT keresőeszköz könnyen manipulálható és megtéveszthető, ha rejtett tartalmakkal rendelkező weboldalakat elemez.

A brit The Guardian által végzett felmérés szerint ez akár rosszindulatú kódok megosztásához is vezethet, miközben a technológia újításként és biztonságos keresőalternatívaként mutatkozott be - írja a Portfolio. Szakértők figyelmeztetnek, hogy a mesterséges intelligenciás eszközöket csak óvatosan, szigorúan ellenőrzött környezetben szabadna használni.

Az OpenAI legújabb keresőeszköze, amelyet a ChatGPT mesterséges intelligencia támogat, komoly biztonsági aggályokat vetett fel a Guardian által végzett tesztek alapján. A vizsgálatok kimutatták, hogy az eszköz könnyedén manipulálható rejtett tartalmakkal, amelyek közvetlenül befolyásolják az AI által nyújtott válaszokat.

Ez különösen aggasztó, hiszen a mesterséges intelligenciát – vagyis leginkább a nagy nyelvi modelleket – elvileg a megbízható információszolgáltatás és a hatékonyság zászlóvivőjének kiáltották ki.

A tesztek során a ChatGPT olyan weboldalakat elemzett, amelyek rejtett utasításokat tartalmaztak, például arra kérték a modellt, hogy pozitív véleményt fogalmazzon meg egy termékről, függetlenül az oldal tartalmának valós üzenetétől. Az eredmények azt mutatták, hogy a rejtett szövegek teljes mértékben képesek felülírni a valós kritikákat, így a mesterséges intelligencia megbízhatósága kérdésessé vált.

Jacob Larsen, a CyberCX kiberbiztonsági kutatója szerint ezek az esetek rávilágítanak arra, hogy a keresőeszközöket és a nyelvi modelleket még nem szabad teljeskörűen kiadni a nagyközönség számára. A kutató hangsúlyozta, hogy az OpenAI papíron rendelkezik megfelelő szakértői gárdával, és valószínű, hogy a problémák egy részét idővel kijavítják. Mindazonáltal figyelmeztetett, hogy a rejtett tartalommal való visszaélés komoly kockázatokat hordoz, különösen a kereskedelmi szférában.

Egy másik figyelemre méltó esetben egy kriptovaluta-fejlesztő a ChatGPT-t használta kódírásra, de az eszköz olyan rosszindulatú kódot generált, amely hozzáférést biztosított a fejlesztő pénzeszközeihez, és 2500 dollár veszteséget okozott.

Ez az eset rávilágít arra, hogy a mesterséges intelligencia eredményeit nem szabad automatikusan hitelesnek tekinteni.

Karsten Nohl, a SR Labs kiberbiztonsági szakértője szerint az AI-t csak segédeszközkétn kellene kezelni, nem pedig egyedüli információforrásként. A technológia ugyan azt sugallja, hogy teljesen megbízható, odafigyel az önértékelésre, de gyakran nem képes különbséget tenni és helyes döntéseket hozni a komplikáltabb helyzetekben.

Ezért a mesterséges intelligenciával kapcsolatos információkat mindig kritikusan kell vizsgálni, és szükség esetén szakértői ellenőrzésnek alávetni.

Címlapról ajánljuk
Tálas Péter: az amerikaiak egyértelmű üzenete keltett riadalmat Európa vezetőiben

Tálas Péter: az amerikaiak egyértelmű üzenete keltett riadalmat Európa vezetőiben

A müncheni biztonságpolitikai konferencián elhangzottak alapján egy olyan világ jöhet, amelyben nehezebb lesz függni az Egyesült Államoktól, Európa mozgástere pedig várhatóan nagyon beszűkül, ha nem tesz konkrét lépéseket – mondta az InfoRádióban a Nemzeti Közszolgálati Egyetem Eötvös József Kutatóközpont John Lukacs Intézetének egyetemi docense. A szakértő arról is elmondta véleményét, van-e realitása a NATO-tól kevésbé függő, önálló európai hadsereg létrehozásának.

Hortay Olivér a magyar–szerb kőolajvezetékről: jelentős bevételhez jut a gazdaság, és geopolitikailag is erősödünk

Három év alatt épülhet meg az a 300 kilométeres kőolajvezeték, amely az Adria-vezetékről leágazva Magyarországon keresztül látná el Szerbiát energiahordozóval. Hortay Olivér, a Századvég energia- és klímapolitikai üzletágvezetője az InfoRádióban kiemelte: a beruházással Magyarország már nemcsak vásárlóként, hanem tranzitországként is megjelenhet az olajpiacon.
VIDEÓ
inforadio
ARÉNA
2025.02.17. hétfő, 18:00
Csiki Varga Tamás
a Nemzeti Közszolgálati Egyetem John Lukacs Intézet tudományos főmunkatársa
Holnap kezdődnek az orosz-amerikai tárgyalások, NATO-katonák mehetnek Ukrajnába - Híreink az orosz-ukrán háborúról hétfőn

Holnap kezdődnek az orosz-amerikai tárgyalások, NATO-katonák mehetnek Ukrajnába - Híreink az orosz-ukrán háborúról hétfőn

Donald Trump amerikai elnök és Vlagyimir Putyin orosz elnök várhatóan még februárban találkoznak, hogy az orosz-ukrán háború lezárásáról egyeztessenek. Az ukrán haderő bejelentette: kitolták az oroszokat Piszcsanyéből, ez egy falu Pokrovszk elővárosában. Volodimir Zelenszkij ukrán elnök az ország háborús veszteségeiről beszélt. Ma válságtanácskozást tart az Európai Unió, melynek célja megvitatni Trump elnök ukrajnai háborúval kapcsolatos hozzáállását. Közben megérkezett az amerikai tárgyalási delegáció Szaúd-Arábiába, holnap indulnak a tárgyalások az oroszokkal. Keir Starmer brit miniszterelnök bejelentette: Nagy-Britannia kész katonákat küldeni Ukrajnába békefenntartó misszióra. Cikkünk folyamatosan frissül az orosz-ukrán háború hétfői eseményeivel.

EZT OLVASTA MÁR?
×
2025. február 17. 05:46
×
×
×
×