A Google nemrég tette elérhetővé keresőjében új szolgáltatását, az „AI Overview” (mesterséges intelligencia alapú áttekintések) funkciót, amit a Gemini generatív nyelvi modellre épített fel, és az eredeti elképzelés szerint hasznos, összefoglaló válaszokat adna a felhasználók kérdéseire. Alig néhány nappal az indulás után azonban hamis, félrevezető válaszokról számoltak be a generatív AI-alapú keresést használó internetezők – írja a hwsw.hu.

Már az új szolgáltatás bemutatója során számos kérdés felmerült azzal kapcsolatban, milyen hosszútávú hatásai lehetnek az AI Overview-nak az internetes keresésre, illetve milyen potenciális károkat okozhatnak az esetleges pontatlanságok. Az elmúlt napokban pedig beigazolódott, hogy jogos volt a szkepticizmus, ugyanis ellepték a közösségi oldalakat a reklamáló kommentek.

A szolgáltatás egyes esetekben meglehetősen bizarr válaszokat adott a felhasználók kérdéseire.

Például a magát kereszténynek valló Barack Obamát muszlimnak nevezte, azt írta, hogy nincs K kezdőbetűvel kezdődő ország Afrikában (miközben például Kenya ilyen). Azt is javasolta, hogy „negyed csésze nem mérgező ragasztót” használjunk, hogy a sajt ne csússzon le a pizzáról, illetve az AI Overview szerint érdemes napi egy követ elfogyasztani annak magas vitamin- és ásványianyag-tartalma miatt. Egy másik válasz „villogó folyadékot” ajánlott az autók indexelési hangjához.

Az eddigi tapasztalatok szerint a Google mesterséges intelligencia alapú áttekintéseinek legviccesebb hibái akkor fordulnak elő, amikor

a rendszer nem veszi észre, hogy egy online forrás csak tréfálkozik vagy direkt félrevezeti az embereket.

Colette Garcia, a Google szóvivője közölte: a fejlesztés az esetek többségében hatékonyan és megbízhatóan teljesít, az interneten virálissá vált képek közül pedig nagyon sokat manipulálhattak. Hozzátette: a vállalat azon dolgozik, hogy letiltsa a problémás válaszokat hozó lekérdezéseket.

A legfőbb problémát az jelenti, hogy a különféle generatív AI-eszközök nem képesek megítélni az interneten talált információk hitelességét, hanem leginkább a felkeresett oldal népszerűsége alapján generálnak üzeneteket, leírásokat, így születhetnek hamis válaszok, illetve félrevezető tanácsok.

A Google több mint egy éve teszteli az AI Overview-t, ami 2023-ban lépett bétaverzióba. Sundar Pichai vezérigazgató tájékoztatása szerint eddig több mint egymilliárd lekérdezés futott át a rendszeren, és sikerült 80 százalékkal csökkenteni a válaszok generálásával járó költségeket a „mérnöki és technikai áttöréseknek” köszönhetően. Az eddigi felhasználói visszajelzések alapján azonban úgy tűnik, hogy az optimalizálás terén elért jelentős előrelépés nem jár kéz a kézben a minőséggel.