Ki irányít kit? Mesterséges intelligencia és kiberbiztonság a döntések határán

Az AI nagyon régóta itt van velünk, csak nem tudtunk róla

Miközben a közvélemény a mesterséges intelligenciát egy friss, radikális technológiai áttörésként éli meg, a szakértők tudják: a mesterséges intelligencia története évszázadokra, sőt évezredekre nyúlik vissza. Már az ókori költők is eljátszottak a gépek által irányított világ gondolatával, a matematikai alapokat pedig több mint 370 éve fektették le. A modern MI történetében mérföldkő az 1943-ban készült Colossus gép, illetve Neumann János 1945-ös architektúrája, amely azóta is az informatika alapköve.

A mesterséges intelligencia tehát régóta velünk van – csak mostanra vált széles körben elérhetővé. A kulcs a felhasználói interfészek demokratizálása: ma már nem kell matematikusnak lennünk ahhoz, hogy MI-t használjunk, elég egy webböngésző és egy kérdés.

Az MI valódi természete: múlt, jelen és a félreértések

Az MI fogalma gyakran összemosódik a gépi tanulással (machine learning), a mélytanulással (deep learning) és a generatív rendszerekkel (generative AI). A technikai különbségek ellenére ezek közös gyökeret alkotnak: statisztikai alapú, valószínűségi rendszerek, amelyek eltérnek a klasszikus, diszkrét matematikától. Épp ezért kell újragondolnunk, hogyan viszonyulunk ezekhez az eszközökhöz – és milyen szabályozási környezetben használjuk őket.

A „hallucináció” például nem létező fogalom matematikai szempontból, mégis gyakran emlegetik az MI hibájaként. Valójában ezek csak szokatlan, de logikailag érvényes eredmények egy bonyolult valószínűségi térből.

Kiberbiztonság és MI: barát vagy ellenség?

Az MI a kiberbiztonságban már legalább 35 éve jelen van – még ha nem is tudatosult a legtöbb felhasználóban. Ha egy rendszer „heurisztikus” alapon dönt, már MI-t használ. Eddig ez főleg háttérben történt (például tartalomszűrőkben, vírusirtókban), ma viszont már nyíltan is szerepet kap: az MI lehet hacker és védelmező is.
Az információbiztonsági termékek döntő többsége ma már valamilyen formában beépített MI képességekkel rendelkezik. A kérdés inkább az: hogyan tudjuk szabályozni és kontrollálni ezeket?

Jogi és szabályozási környezet: NIS2, NIST és AI Act

A nemzetközi és európai szabályozás egyaránt felismerte az MI veszélyeit és lehetőségeit. A 2023-as amerikai NIST AI 100-1 ajánlás, valamint az EU AI Act közös üzenete: átláthatóságra, emberi felügyeletre és biztonságra van szükség. Az AI Act négy kockázati szintet határoz meg, amelyből a legsúlyosabb („elfogadhatatlan kockázat”) akár büntetőjogi következményekkel is járhat.

Üzleti alkalmazás a gyakorlatban: esettanulmány OTP Bankból

A mesterséges intelligencia nemcsak kutatólaborok játékszere – az üzleti világban is valós és mérhető előnyöket kínál. OTP Bankban már 2015-ben működött olyan aláírópad-rendszer, amely MI-alapú aláírás-felismeréssel azonosította az ügyfelet több száz paraméter alapján – az aláírás grafikus képe nélkül.

Az ilyen rendszerek auditálása azonban új matematikai és mérnöki kihívásokat jelent. Az audit küszöbök (üzleti és biztonsági) kijelölése és a rendszerek tréningje a siker záloga. A tanulság: minden MI-projekt alapja az adat – és még inkább a jó minőségű, tiszta adat.

A jövő: kvantumbiztonság, biológiai processzorok és a szingularitás

Az MI még nem érte el a szingularitást – de közeledik. A hadviselés, az adatközpontok energiaéhsége és a kvantumtechnológia új korszakot nyitnak az informatika történetében. A fizika, matematika és biológia együttesen formálja majd az új világot, ahol az ember csak akkor maradhat döntéshozó, ha megőrzi a kontrollt.

Zárszó: MI vezet minket vagy mi vezetjük őt?

A valódi kérdés nem az, hogy használjunk-e mesterséges intelligenciát, hanem az, hogyan. Az MI képes áthidalni olyan tudásbeli hiányokat, amelyeket az emberi gondolkodás nem tud lefedni – és ezzel önmagában nincs is gond. Az viszont már komoly felelősséget ró ránk, hogy ezeket a rendszereket információbiztonsági kontrollokkal kézben is tartsuk.

Csak olyan MI-t lenne szabad használnunk, amelyről tudjuk, milyen adatokon, milyen módszertannal és milyen célra lett betanítva – mert csak így tudjuk megítélni, hogy valóban alkalmas-e az adott feladatra. Ha nem értjük, mit tanult a rendszer, hogyan működik, és milyen következményekkel járhat a döntéshozatala, akkor nem mi irányítjuk az MI-t, hanem az kezd el minket irányítani.

A cél tehát nem lehet más, mint hogy mi tanítsuk az MI-t – és ne az MI tanítson minket. Az etikus, átlátható, matematikailag megalapozott használat nem csupán technikai vagy jogi kérdés, hanem társadalmi és filozófiai felelősség is.