A figyelmeztetést az Europol tette közzé: a bűnüldözési szerv felhívta a figyelmet arra, hogy a ChatGPT-t és más hasonló modelleket potenciálisa bűnözők is felhasználhatják – írja a The Guardian.

Az adathalászat során olyan e-maileket küldenek ki, amelyek általában egy szervezet nevében akarják rávenni a címzettet arra, hogy kattintson rá egy linkre, amelyen keresztül bankkártyaadatokat csalnak ki tőle. Ez az egyik leggyakoribb formája a kiberbűnözésnek.

Eddig árulkodó lehetett a rossz helyesírás vagy nyelvhelyesség, amit a ChatGPT kiigazíthat.

"Minden hacker használhat olyan mesterséges intelligenciát, amely a helyesírási hibákkal és rossz nyelvtannal megbirkóznak, így ezek meglétére többé nem hagyatkozhatunk az adathalász levelek kiszűrésekor. Az az elképzelés, hogy a rossz nyelvtani vagy helyesírási hibák keresésére lehet hagyatkozni az adathalász-támadás kiszűrése érdekében, már nem állja meg a helyét. Régebben az adathalászok levelei önmagukat is elárulták, ez már nem működik" – mondta Corey Thomas, a Rapid7 amerikai kiberbiztonsági cég vezérigazgatója.

Az adatok szerint a ChatGPT-t használják is a bűnözők: egyre több adathalász levelet ír chatbot, kiküszöbölve a hibákat. A Darktrace megfigyelőberendezése által észlelt rosszindulatú e-mail átverések teljes mennyisége csökkent a bot megjelenése óta, de az e-mailek nyelvi összetettsége jelentősen megnőtt.

Ez arra utal, hogy az adathalász és egyéb rosszindulatú e-maileket szerkesztő csalók jelentős része képessé vált hosszabb, összetettebb prózai szövegek megfogalmazására – mondja Max Heinemeyer, a vállalat termékért felelős vezetője. Heinemeyer szerint a célzott adathalászat is könnyebbé válik: a közösségi médiából gyűjtött információk alapján könnyű

nagyon személyre szabott szövegeket íratni chatbotokkal.

Az Europol tanácsadói jelentésében a szervezet kiemelte a mesterséges intelligenciával működő chatbotok térnyerése által okozott hasonló potenciális problémákat, köztük a csalást, a dezinformációt és a kiberbűnözést. A rendszerek konkrét lépésekkel kapcsolatos javaslatokat is tudnak adni, így könnyebbé tehetik egyes bűncselekmények elkövetését.

A Check Point, egy amerikai-izraeli kiberbiztonsági cég márciusi jelentése szerint a ChatGPT legújabb verzióját használta egy hitelesnek tűnő adathalász e-mail előállításához. A chatbot biztonsági eljárásait úgy kerülték meg, hogy

azt állították: adathalász e-mail sablonra van szükség azért, hogy dolgozóiknak megmutathassák, hogy néz ki egy ilyen.

A Google a múlt héten indította el Bard nevű chatbotját: ezt a The Guardian arra kérte, fogalmazzon meg egy e-mailt, amellyel rávehet valakit egy rosszindulatúnak tűnő linkre való kattintásra. A Bard készségesen, még ha nem is elég ügyesen oldotta meg a kérdést: "Azért írok önnek, hogy megosszam önnel egy cikk linkjét, amelyet szerintem érdekesnek fog találni".

A Google reakciója szerint az ilyen célú használat tiltott a Bard esetében, és ez áll a ChatGPT felhasználási feltételeiben is.

A mesterséges intelligencia használatáról, működéséről és lehetőségeiről itt hallhat többet: