A Magyar Nemzeti Bank (MNB) informatikai felügyelési témavizsgálatot folytatott le több pénzügyi intézménynél az általuk alkalmazott gépi tanulást és mesterséges intelligenciát használó informatikai megoldások IT-biztonsági ellenőrzésére. A vizsgálat 3-3 – az e megoldásokat már alkalmazó – bankra és biztosítóra terjedt ki.

A felügyelet átvilágította a gépi tanulás és mesterséges intelligencia (GT-MI) alkalmazásának szabályozottsági, ellenőrzési, valamint a kontrollrendszerek hatékonyságát, az ezzel kapcsolatos szervezeti működést, a fejlesztési és üzembeállítási feladatokat, az IT architektúrát, az üzemeltetést, a logikai- és adatbiztonságot, illetve a jogosultságok kezelését. A hazai pénzügyi intézmények ma elsősorban az ügyfélazonosítás, számlanyitás, marketing, valamint az ügyfélkapcsolat-kezelés (CRM) és kampánymenedzsment folyamataikban alkalmaznak GT-MI megoldást.

Mivel a GT-MI rendkívül friss kezdeményezésnek számít, még az ezekre vonatkozó szabályozási keretrendszer is formálódóban van.

Speciális külön szabályozás hiányában a témavizsgálat a pénzügyi intézmények, (viszont)biztosítók, befektetési vállalkozások és árutőzsdei szolgáltatók IT-rendszerének védelméről szóló kormányrendelet, illetve az MNB-nek az IT-rendszer védelméről szóló ajánlása alapján zajlott. Az MNB a téma újdonsága miatt szervezetén belül külön munkacsoportot hozott létre az új, egyedi vizsgálati módszertan kidolgozására és alkalmazására.

A GT-MI IT-biztonsági kérdései mellett az MNB olyan specifikus kockázatokat is áttekintett, hogy az érintett bankok, biztosítók által alkalmazott megoldás hogyan illeszkedik az intézmény stratégiájába, illetve, hogy a folyamatokkal kapcsolatos döntéseket kellő szakértelem bevonásával, specifikus kockázatelemzéssel hozták-e meg. A vizsgálat kiterjedt arra is, hogy a pénzügyi intézmények megfelelően kezelték-e az ügyfelek személyiségi jogait, a személyes, a különleges (akár biometrikus) adatokat.

Az MNB vizsgálta, hogy az intézmények gondoskodtak-e a tömeges összekapcsolt adatok védelméről, számoltak-e a modellből történő visszafejtés lehetőségére.

Vizsgálati témának számított, hogy automatizált döntéshozatal esetén az intézmény alkalmazott-e minőségi kontrollt és hiba esetén felülvizsgálta-e a döntéseket. Felmérte-e a gyártói támogatás megszűnése esetén alkalmazandó eljárásokat, különös tekintettel a rendszeresen újratanítandó modelleknél.

Fontos szempont volt, hogy a vizsgált bankok, biztosítók kitértek-e a GT-MI tanítása során az „adatmérgezés” (adatbázisokban szereplő hibás modellek, információk) felismerésére, vagy a széles körben választott mintákkal történő tanításra a diszkrimináció kivédése érdekében. Az alkalmazott technológia jellemzőire vonatkozó tesztelések megtörténte mellett az MNB azt is vizsgálta, hogy az algoritmusok – különösen a folyamatos újratanítást igénylők – alkalmasak lehetnek-e egyes döntések felidézésére szükség esetén.

Az MNB témavizsgálata nem tárt fel a jelenlegi jogszabályokat sértő kockázatokat, hiányosságokat.

A felügyelet ugyanakkor több olyan (az intézményeknek vizsgálati levélben elküldött) javaslatot is megfogalmazott, amely – bár nem jogszabálysértő, ám mégis kezelendő – problémákra vonatkozik. Ezek főként a kockázatelemzés, szabályozottság, tesztelések hiányából/nem teljeskörű voltából fakadtak.

A témavizsgálat célja az volt, hogy az MNB megismerje a GT-MI mai felhasználási területeit, és értékelje egy ezzel kapcsolatos esetleges felügyeleti iránymutatás szükségességét, illetve elkészült módszertanát beépítse általános IT-felügyeleti vizsgálati módszertanába. Így a GT-MI megoldások vizsgálata az MNB további átfogó vizsgálataiban is kiemelt fókuszt kap majd.