EU AI Act – Felkészülés az alkalmazói oldalon

Az Európai Unió mesterséges intelligencia használatra vonatkozó horizontális szabályozása, az EU AI Act, az AI-eszközök fejlesztőin túl azon szervezetek számára is önálló kötelezettségeket ír elő, amelyek különböző AI-rendszereket alkalmaznak. A szabályozás kockázatalapú megközelítésen alapul, így az egyes elvárások mértéke függ a felhasználás jellegétől és kockázati szintjétől is.

Mivel a rendelkezések az érintett rendszerek teljes életciklusán át érvényesülnek, az alkalmazói megfelelés nem zárható le egyetlen lépésben: folyamatos felülvizsgálatot és menedzsmentet igényel.

Visszatérő feladatok a gyakorlatban

Kockázati besorolás és dokumentáció. Az egyes felhasználási módok kockázatának megítélése nem magához a technológiához, hanem annak rendeltetéséhez kapcsolódik. Ugyanaz az eszköz más kategóriába eshet, ha összefoglaló készül vele, és másba, ha például munkaviszonnyal összefüggő döntéseket támogat. Az alkalmazó szempontjából ezért az első kérdés, hogy munkatársai milyen célokra használják az egyes AI-rendszereket — ettől függ ugyanis, hogy pontosan mely előírásoknak szükséges megfelelnie.

A magas kockázatú felhasználásoknál az alkalmazónak hatósági megkeresés esetén igazolnia kell tudnia kötelezettségeinek teljesítését. Ennek egyik eszköze a naplózás: a rendelet a magas kockázatú rendszerek alkalmazóitól megköveteli az automatikusan generált naplók megőrzését. A gyakorlatban ez teszi utólag visszakövethetővé az AI-használatot és a rendszerszintű döntéseket — az incidensek kivizsgálásához és a megfelelés igazolásához egyaránt. A szabályozás alacsonyabb kockázati szinteknél ugyan nem ír elő tételesen ilyen követelményeket, a szervezetek azonban csak akkor lehet biztosak abban, hogy az adott felhasználások valóban az alacsonyabb kockázati kategóriába esnek, ha ezeket tudatosan és rendszeresen megvizsgálják.

Felülvizsgálat. Ahhoz, hogy az egyes felhasználási módok kockázati megítélése a valós működést tükrözze, szükséges azok rendszeres időközönkénti vizsgálata. Az eseti, változásokhoz kötött ellenőrzés mellett ezért indokoltak az ütemezett felülvizsgálatok is: így a fokozatosan kialakuló új gyakorlatok is a megfelelési folyamat részévé válnak.

Emberi felügyelet és képzés. Az EU AI Act a magas kockázatú felhasználási módokhoz nevesített követelményként rendeli hozzá az emberi felügyelet biztosítását, bizonyos esetekben pedig az AI-generált tartalmak megfelelő megjelöléssel történő ellátását is. A kimenetek ellenőrzése ugyanakkor nem csupán szabályozási kérdés: a nyelvi modellek meggyőzően megfogalmazott, mégis pontatlan tartalmat is előállíthatnak, ezért az emberi felülvizsgálat kockázati besorolástól függetlenül is alapvető elvárás a felelős használat során. Mindez azonban megfelelő felhasználói felkészültséget igényel. A munkatársaknak tudniuk kell, mikor és mit érdemes ellenőrizniük, és tisztában kell lenniük a technológia korlátaival. Ezt a szempontot a rendelet is megerősíti: az AI-eszközöket alkalmazó szervezeteknek gondoskodniuk kell munkatársaik AI-jártasságáról.

Megfelelésből működési képesség

Az EU AI Act-nek való megfelelés részben jogi feladat, a hozzá vezető út azonban olyan működési keret kialakítását is jelenti, amely a szabályozástól függetlenül is értékes lehet a szervezet számára. A megfelelőségi kritériumok teljesítéséhez mindenekelőtt elengedhetetlen, hogy a szervezet egységes képpel rendelkezzen a munkatársai által használt AI-eszközökről. Erre épül minden további: a naplózott működés, az emberi felügyelet, az életciklus-kezelés. A felkészülés lépései tehát nem elszigetelt jogi feladatok: olyan szervezeti képességek építése is egyben, amelyek a felelős, átlátható és hatékony AI-használati kultúra kialakítását támogatják.

Nyári sorozatunkban a vállalati AI-használat legfontosabb kihívásait vettük sorra: a láthatóság, az erőforrás-gazdálkodás, az adatvédelem és a szabályozási megfelelés kérdéseit. A témát a továbbiakban is folytatjuk — érdemes követnie minket.