Mi az az EU AI Act?
Az EU AI Act 2024. augusztus 1-jén lépett hatályba, és ez az első olyan átfogó jogszabály a világon, amely
kockázatalapú megközelítéssel szabályozza a mesterséges intelligencia rendszereket.
A rendelet minden EU tagállamban, így Magyarországon is teljes egészében és közvetlenül alkalmazandó. Tehát azokra a magyar cégekre is vonatkozik, ha az Unióban mesterséges intelligenciával működő rendszereket hoznak forgalomba vagy helyeznek üzembe, vagy általános célú mesterséges intelligencia modelleket forgalomba hozó szolgáltatók.
A legfontosabb teendők a cégek által alkalmazott MI rendszerek feltérképezése és kockázatalapú besorolása, az MI céges elveinek meghatározása és a cégen belül a felelős területek, emberek kijelölése. A témával részletesen többek között itt foglalkoztunk:
Ahogy lapunknak Vári Csaba korábban elmondta, a jogszabály célja, hogy elősegítse a biztonságos és megbízható mesterséges intelligencia rendszerek fejlesztését és elterjedését az EU egységes piacán mind a magán-, mind a közszférában.
A rendelet az MI rendszereket négy kockázati osztályba sorolja: az elfogadhatatlan kockázatot jelentő rendszereket tiltja – ezek közé tartoznak például a tudat alatt ható, manipulatív rendszerek, a személyek sebezhetőségét kihasználó rendszerek és a biometrikus adat alapján kategorizáló rendszerek.
A magas kockázatú rendszereket nem tiltja, de szoros ellenőrzés alá vonja: a kockázatokat értékelniük kell a cégeknek, megfelelőségértékelést kell elvégezni, a tevékenységeket naplózni kell, részletes dokumentációt kell készíteni és megfelelő tájékoztatást kell adni az emberek részére. Ilyen rendszerek például a biometrikus azonosítási rendszerek, a kritikus infrastruktúrákat kiszolgáló rendszerek, oktatási, munkahelyi értékelési rendszerek, valamely egészségügyi szolgáltatás igénybevételét vagy hitelképességet meghatározó rendszerek.
A korlátozott kockázatú MI rendszerek közé például a chatbotok és a deep fake tartalmat előállító rendszerek tartoznak, melyekre vonatkozóan a legfontosabb előírás az átláthatóság követelménye, azaz, hogy az ezen rendszereket használók tudják azt, hogy mesterséges intelligenciával állnak szemben, illetőleg, hogy az adott videót vagy képet nem ember, hanem gép alkotta. A minimum kockázatot jelentő rendszerek (pl. spam szűrők vagy videójátékok) esetén önkéntes etikai kódexnek vethetik alá magukat az MI használói.
A rendelet külön fejezetet szentel az elmúlt évek MI forradalmát hozó általános célú AI modelleknek, mint például a nyelvi modellek, a kép- és videógenerátorok vagy audio-tartalom készítők, mint a ChatGPT, a Copilot vagy a Midjourney.
Ezekre az általános célú rendszerekre jellemző, hogy rendszerszintű kockázatokat jelenthetnek, például balesetet okozhatnak, illetőleg kibertámadások céljaira is felhasználhatók, amellett, hogy a programozásuktól függően akár káros előítéleteket is terjeszthetnek.
Nagy bírságok jöhetnek
A törvény egyik legfontosabb eleme az "elfogadhatatlan kockázatot" jelentő AI-rendszerek használatának és forgalmazásának tilalma az EU-ban, amely most élesedett is. A szabályok súlyos megsértése esetén
a büntetés mértéke akár 35 millió euró, vagy a cég globális éves forgalmának 7%-a is lehet.
A tiltott tevékenységek között szerepelnek
- a káros, tudatalatti, manipulatív és megtévesztő technikák,
- sebezhetőségek rosszindulatú kihasználása,
- az elfogadhatatlan társadalmi "értékelés" (pontozás - scoring),
- Internetes vagy videós (pl. ipari kamerás) anyagok nem célzott lekérdezése arcfelismerő adatbázisok fejlesztése vagy bővítése céljából,
- Érzelemfelismerés a munkahelyeken és az oktatás területén (néhány kivételtől eltekintve).
- Biometrikus kategorizálás bizonyos érzékeny kategóriákban (néhány kivétellel)
- valós idejű távoli biometrikus azonosítás (RBI) nyilvánosan hozzáférhető helyeken bűnüldözési célokra (néhány kivétellel).
- valamint bizonyos kivételekkel az egyéni kockázatértékelés és előrejelzés bűncselekmények esetén.
Az uniós AI-törvény hatálya kiterjed minden szolgáltatóra/szolgáltatást telepítőre a székhelyüktől függetlenül is. Ez azt jelenti, hogy az EU-ban működő, amerikai székhelyű vállalatokat is érinti a szabályozás, annak ellenére, hogy az USA-ban jelenleg nincs hasonló szövetségi AI-jogszabály.
A február 2-i határidő a Finextra cikke szerint nemcsak az elfogadhatatlan kockázatú mesterséges intelligencia szolgáltatásokra vonatkozó tilalmat érinti, hanem az uniós AI-törvény "tájékozottsági" követelményeinek való megfelelést is. Ezek célja, hogy a szervezetek megfelelő képzést/továbbképzést biztosítsanak az AI-rendszereket működtető csapatok számára.
A címlapkép illusztráció. Címlapkép forrása: Getty Images
