SG.hu
Az EU betiltotta az MI legkockázatosabb formáit
Az Európai Parlament ma megszavazta a mesterséges intelligenciáról szóló törvényt, amely megtiltja a mesterséges intelligencia "elfogadhatatlan kockázatot jelentő" alkalmazását, és szabályozást ír elő a kevésbé kockázatos mesterséges intelligencia típusokra.
Az Európai Parlament 523 képviselője támogatta a törvényt, 46-an ellene szavaztak, 49-en pedig tartózkodtak. A jogszabály négy kockázati kategóriába sorolja a mesterséges intelligenciát: elfogadhatatlan kockázat, magas kockázat, korlátozott kockázat, valamint minimális vagy semmilyen kockázat. A magas kockázatú mesterséges intelligenciára példa a robotok által támogatott sebészetben használt mesterséges intelligencia, a hitelpontozó rendszerek, amelyek elutasíthatják a hiteleket, a bűnüldözés, amely beavatkozhat az alapvető jogokba, például a bizonyítékok megbízhatóságának értékelésébe, és a vízumkérelmek automatikus vizsgálata.
"A magas kockázatú mesterséges intelligencia rendszerekre szigorú kötelezettségek vonatkoznak majd, mielőtt forgalomba hozhatók lennének" - áll a jogszabály összefoglalójában. A kötelezettségek közé tartoznak a "megfelelő kockázatértékelési és kockázatcsökkentő rendszerek", a "tevékenység naplózása az eredmények nyomon követhetőségének biztosítása érdekében", a "megfelelő emberi felügyeleti intézkedések a kockázat minimalizálása érdekében" és egyéb követelmények. A mesterséges intelligencia egyes alkalmazásainak tilalma akár 35 millió eurós büntetést is előír, vagy a cég "előző pénzügyi év teljes világméretű éves forgalmának 7 százalékát, attól függően, hogy melyik a magasabb". Más rendelkezések megsértése alacsonyabb büntetést von maga után.
Az új szabályok tiltják az olyan MI-alkalmazásokat, amelyek sérthetik az állampolgárok jogait. Ilyen például az érzékeny személyes adatokon alapuló biometrikus kategorizálás vagy az arcfelismerő adatbázisok létrehozása olyan arcképek felhasználásával, amelyeket az internetről vagy zártláncú televíziós hálózatok felvételeiből nem célirányosan töltenek le. Tiltják továbbá a munkahelyen és az iskolákban gépi érzelemfelismerő rendszerek alkalmazását, az állampolgárok mesterséges intelligencia révén történő, társadalmi hovatartozásukra, vagy előélükre alapozott kockázati besorolását, valamint az olyan rendszerek használatát, amelyek képesek befolyásolni az emberek viselkedését, vagy a sebezhetőségüket használják ki.
A távoli biometrikus azonosító (RBI) rendszereket - néhány különleges kivételtől eltekintve - a bűnüldöző szervek sem vehetik igénybe. Valós idejű RBI csak szigorú biztosítékok mellett lesz alkalmazható: például időben és földrajzilag korlátozottan, külön bírói vagy hatósági engedéllyel. Akkor jöhet szóba, ha például eltűnt személyt keresnek, vagy terrortámadást próbálnak megelőzni. Az ilyen rendszerek utólagos - a bűnelkövetés tényének megállapítását követő - használata magas kockázatúnak minősül, ezért bírói engedélyhez kötött.
Más, magas kockázatú mesterségesintelligencia-rendszerekre is egyértelmű kötelezettségek vonatkoznak. Ezek közé tartoznak például a kritikus infrastruktúrák, az oktatás és a szakképzés, a foglalkoztatás, az alapvető magán- és közszolgáltatások a bűnüldözés, a migráció és a határigazgatás, az igazságszolgáltatás és a demokratikus folyamatok egyes rendszerei. Az ilyen rendszerek használatánál, értékelni és csökkenteni kell a kockázatokat, naplót kell vezetni a használatról, és biztosítani kell az emberi felügyeletet. Az állampolgároknak joguk lesz panaszt tenni a mesterséges intelligencia rendszerekkel kapcsolatban, és magyarázatot kaphatnak a magas kockázatú mesterséges intelligencia rendszereken alapuló, a jogaikat érintő döntésekről.
Az általános célú mesterségesintelligencia-rendszereknek és az általuk használt MI-modelleknek átláthatósági követelményeknek kell megfelelniük, többek között az uniós szerzői jognak és a képzéshez használt tartalmak részletes összefoglalóinak közzé kell tenni. A nagyobb teljesítményű, rendszerkockázatot jelentő MI-modellekre további követelmények vonatkoznak, többek között a modellértékelések elvégzése, a rendszerkockázatok értékelése és mérséklése, valamint az incidensekről való jelentéstétel.
"Az MI-törvény konkrét átláthatósági kötelezettségeket vezet be annak biztosítása érdekében, hogy az emberek szükség esetén tájékoztatást kapjanak, ami elősegíti a bizalmat" - mondta az Európai Bizottság. "Például chatbotok használata esetén az embereket tájékoztatni kell arról, hogy egy géppel lépnek kapcsolatba, hogy megalapozott döntést hozhassanak a folytatásról vagy a visszalépésről. A szolgáltatóknak azt is biztosítaniuk kell, hogy az MI által generált tartalom azonosítható legyen".
Az új jogszabály szerint az uniós tagállamokban szabályozói tesztkörnyezetet kell létrehozni és valós körülmények között is kell teszteket végezni, amelyekbe be kell vonni a kis-és középvállalkozásokat, és az induló vállalkozásokat is, hogy a piacra már kiforrott és betanított innovatív mesterségesintelligencia-rendszerek kerüljenek ki. A jogszabály végleges szövegét még a tagállamokat tömörítő tanácsnak is hivatalosan jóvá kell hagynia, majd közzéteszik az EU hivatalos közlönyében.
A törvényt ellenezte a Computer & Communications Industry Association, a technológiai ipar lobbicsoportja. "Az elfogadott MI-törvény szigorú kötelezettségeket ró a csúcstechnológiák fejlesztőire, és ezért valószínűleg lelassítja az innovációt Európában" - közölte a csoport. "Ráadásul bizonyos alacsony kockázatú mesterséges intelligencia-rendszerekre mostantól további indoklás nélkül szigorú követelmények vonatkoznak majd, míg másokat teljesen betiltanak. Ez az európai MI-vállalatok és tehetségek elvándorlásához vezethet, akik máshol keresik majd a növekedést."
A törvény hivatalosan 20 nappal a hivatalos lapban való közzététele után lép hatályba - áll az Európai Parlament közleményében. A törvény tiltott gyakorlatokra vonatkozó tilalma hat hónappal ezután lép életbe, de a többi szabályozás csak később lép hatályba. A "nagy kockázatú rendszerekre vonatkozó kötelezettségek" csak 36 hónap múlva lépnek hatályba.
Az Európai Parlament 523 képviselője támogatta a törvényt, 46-an ellene szavaztak, 49-en pedig tartózkodtak. A jogszabály négy kockázati kategóriába sorolja a mesterséges intelligenciát: elfogadhatatlan kockázat, magas kockázat, korlátozott kockázat, valamint minimális vagy semmilyen kockázat. A magas kockázatú mesterséges intelligenciára példa a robotok által támogatott sebészetben használt mesterséges intelligencia, a hitelpontozó rendszerek, amelyek elutasíthatják a hiteleket, a bűnüldözés, amely beavatkozhat az alapvető jogokba, például a bizonyítékok megbízhatóságának értékelésébe, és a vízumkérelmek automatikus vizsgálata.
"A magas kockázatú mesterséges intelligencia rendszerekre szigorú kötelezettségek vonatkoznak majd, mielőtt forgalomba hozhatók lennének" - áll a jogszabály összefoglalójában. A kötelezettségek közé tartoznak a "megfelelő kockázatértékelési és kockázatcsökkentő rendszerek", a "tevékenység naplózása az eredmények nyomon követhetőségének biztosítása érdekében", a "megfelelő emberi felügyeleti intézkedések a kockázat minimalizálása érdekében" és egyéb követelmények. A mesterséges intelligencia egyes alkalmazásainak tilalma akár 35 millió eurós büntetést is előír, vagy a cég "előző pénzügyi év teljes világméretű éves forgalmának 7 százalékát, attól függően, hogy melyik a magasabb". Más rendelkezések megsértése alacsonyabb büntetést von maga után.
Az új szabályok tiltják az olyan MI-alkalmazásokat, amelyek sérthetik az állampolgárok jogait. Ilyen például az érzékeny személyes adatokon alapuló biometrikus kategorizálás vagy az arcfelismerő adatbázisok létrehozása olyan arcképek felhasználásával, amelyeket az internetről vagy zártláncú televíziós hálózatok felvételeiből nem célirányosan töltenek le. Tiltják továbbá a munkahelyen és az iskolákban gépi érzelemfelismerő rendszerek alkalmazását, az állampolgárok mesterséges intelligencia révén történő, társadalmi hovatartozásukra, vagy előélükre alapozott kockázati besorolását, valamint az olyan rendszerek használatát, amelyek képesek befolyásolni az emberek viselkedését, vagy a sebezhetőségüket használják ki.
A távoli biometrikus azonosító (RBI) rendszereket - néhány különleges kivételtől eltekintve - a bűnüldöző szervek sem vehetik igénybe. Valós idejű RBI csak szigorú biztosítékok mellett lesz alkalmazható: például időben és földrajzilag korlátozottan, külön bírói vagy hatósági engedéllyel. Akkor jöhet szóba, ha például eltűnt személyt keresnek, vagy terrortámadást próbálnak megelőzni. Az ilyen rendszerek utólagos - a bűnelkövetés tényének megállapítását követő - használata magas kockázatúnak minősül, ezért bírói engedélyhez kötött.
Más, magas kockázatú mesterségesintelligencia-rendszerekre is egyértelmű kötelezettségek vonatkoznak. Ezek közé tartoznak például a kritikus infrastruktúrák, az oktatás és a szakképzés, a foglalkoztatás, az alapvető magán- és közszolgáltatások a bűnüldözés, a migráció és a határigazgatás, az igazságszolgáltatás és a demokratikus folyamatok egyes rendszerei. Az ilyen rendszerek használatánál, értékelni és csökkenteni kell a kockázatokat, naplót kell vezetni a használatról, és biztosítani kell az emberi felügyeletet. Az állampolgároknak joguk lesz panaszt tenni a mesterséges intelligencia rendszerekkel kapcsolatban, és magyarázatot kaphatnak a magas kockázatú mesterséges intelligencia rendszereken alapuló, a jogaikat érintő döntésekről.
Az általános célú mesterségesintelligencia-rendszereknek és az általuk használt MI-modelleknek átláthatósági követelményeknek kell megfelelniük, többek között az uniós szerzői jognak és a képzéshez használt tartalmak részletes összefoglalóinak közzé kell tenni. A nagyobb teljesítményű, rendszerkockázatot jelentő MI-modellekre további követelmények vonatkoznak, többek között a modellértékelések elvégzése, a rendszerkockázatok értékelése és mérséklése, valamint az incidensekről való jelentéstétel.
"Az MI-törvény konkrét átláthatósági kötelezettségeket vezet be annak biztosítása érdekében, hogy az emberek szükség esetén tájékoztatást kapjanak, ami elősegíti a bizalmat" - mondta az Európai Bizottság. "Például chatbotok használata esetén az embereket tájékoztatni kell arról, hogy egy géppel lépnek kapcsolatba, hogy megalapozott döntést hozhassanak a folytatásról vagy a visszalépésről. A szolgáltatóknak azt is biztosítaniuk kell, hogy az MI által generált tartalom azonosítható legyen".
Az új jogszabály szerint az uniós tagállamokban szabályozói tesztkörnyezetet kell létrehozni és valós körülmények között is kell teszteket végezni, amelyekbe be kell vonni a kis-és középvállalkozásokat, és az induló vállalkozásokat is, hogy a piacra már kiforrott és betanított innovatív mesterségesintelligencia-rendszerek kerüljenek ki. A jogszabály végleges szövegét még a tagállamokat tömörítő tanácsnak is hivatalosan jóvá kell hagynia, majd közzéteszik az EU hivatalos közlönyében.
A törvényt ellenezte a Computer & Communications Industry Association, a technológiai ipar lobbicsoportja. "Az elfogadott MI-törvény szigorú kötelezettségeket ró a csúcstechnológiák fejlesztőire, és ezért valószínűleg lelassítja az innovációt Európában" - közölte a csoport. "Ráadásul bizonyos alacsony kockázatú mesterséges intelligencia-rendszerekre mostantól további indoklás nélkül szigorú követelmények vonatkoznak majd, míg másokat teljesen betiltanak. Ez az európai MI-vállalatok és tehetségek elvándorlásához vezethet, akik máshol keresik majd a növekedést."
A törvény hivatalosan 20 nappal a hivatalos lapban való közzététele után lép hatályba - áll az Európai Parlament közleményében. A törvény tiltott gyakorlatokra vonatkozó tilalma hat hónappal ezután lép életbe, de a többi szabályozás csak később lép hatályba. A "nagy kockázatú rendszerekre vonatkozó kötelezettségek" csak 36 hónap múlva lépnek hatályba.