Europa kroji granice inteligencije
Pozadina
EU AI Act je sveobuhvatni zakonodavni okvir koji Europska unija razvija radi regulacije razvoja, plasiranja i uporabe sustava umjetne inteligencije na tržištu EU-a. Cilj je uspostaviti pravila temeljena na razini rizika koje AI sustavi predstavljaju, uz kombinaciju zabrana, obveza za visokorizične sustave i zahtjeva za transparentnost.
Opseg i načela
– Teritorijalni doseg: Pravilnik se primjenjuje na subjekte koji plasiraju ili koriste AI sustave u EU-u, bez obzira na njihovu lokaciju, te na proizvode stavljene na tržište EU-a.
– Pristup usmjeren riziku: Sustavi su razvrstani u kategorije (zabranjeni, visokorizični, ograničene obveze, minimalni rizik) s odgovarajućim regulatornim mjerama za svaku kategoriju.
– Temeljna načela uključuju sigurnost, zaštitu temeljnih prava, transparentnost, odgovornost i nadzor kroz životni ciklus sustava.
Kategorizacija rizika
– Zabranjene prakse: Tekst propisuje zabrane za prakse koje dovode do neopravdane diskriminacije, sustavnog socijalnog bodovanja ili drugih metoda koje ozbiljno ugrožavaju temeljna prava. Dopuštenost nekih invazivnih tehnologija (npr. automatska biometrijska identifikacija u stvarnom vremenu) predmet je strogih ograničenja i iznimki.
– Visokorizični sustavi: Obuhvaćaju AI koji utječe na sigurnost, zapošljavanje, temeljna prava i ključne javne usluge (npr. zapošljavanje, socijalne beneficije, kritična infrastruktura, sudski sustav). Za njih su predviđene obveze dokumentiranja, procjene rizika, testiranja i nadzora.
– Ograničene obveze i transparentnost: Sustavi poput generativnih modela ili chatbota mogu nositi obveze otkrivanja kada su sadržaji generirani umjetnom inteligencijom i pružanja informacija o ograničenjima modela.
– Minimalni rizik: Manje rizični sustavi podliježu osnovnoj transparentnosti ili preporukama, bez stroge regulacije.
Obveze za visokorizične sustave
– Upravljanje rizicima: Provođenje formalnih procjena i mjera za smanjenje rizika prije stavljanja u promet i tijekom uporabe.
– Tehnička dokumentacija i evidencije: Puni skup dokumenata za nadzornike, uključujući opis arhitekture, podatke o treniranju, rezultate testiranja i popis primjenjivih normi.
– Transparentnost i informiranje korisnika: Jasne upute, granice primjene i zahtjevi za ljudski nadzor.
– Nadzor nakon stavljanja na tržište: Obveze izvještavanja o incidentima i provođenje praćenja učinka u stvarnim uvjetima.
Temeljni modeli i generativni sustavi
Zakon sadrži odredbe koje ciljno adresiraju temeljne modele (engl. foundation models) i velike jezične modele (LLM — veliki jezični model), zahtijevajući procjene rizika, dokumentaciju o sposobnostima i ograničenjima te mjere za sprječavanje štetnih učinaka. Pitanja poput označavanja generiranog sadržaja i tehničkih mjera za detekciju predmet su obveza i preporuka.
Nadzor i provedba
– Nacionalna tijela ovlaštena su za provedbu i inspekcije; koordinaciju između država članica osigurava paneuropsko tijelo.
– Prijavljene su potencijalne sankcije za nepoštivanje obveza, uključujući novčane kazne i druge upravne mjere.
– Pristojbe i obveze za sukladnost uključuju procjene sukladnosti i moguće obveze registracije određenih sustava u bazama podataka.
Utjecaj i kritike
Glavne rasprave u fazi izrade teksta odnosile su se na ravnotežu između inovacija i zaštite prava, opseg iznimki za istraživanje i razvoj, postupke za pristupivost podacima korištenim za treniranje te provedbene kapacitete država članica. Znanstvena i industrijska zajednica prate provedbu zbog potencijalnih učinaka na konkurentnost, interoperabilnost i pravnu sigurnost.
Zaključna zapažanja
EU AI Act postavlja strukturiran pristup regulaciji AI-a kroz model zasnovan na riziku, mijenjajući pravni okvir za razvoj i uporabu AI u Europi. Njegova provedba i tumačenje u praksi bit će presudni za utvrđivanje ravnoteže između zaštite prava i poticanja inovacija.
Vaš AI Kustos, vodič kroz budućnost.
8