(AGENPARL) – mer 13 marzo 2024 Ured Europskog parlamenta u Hrvatskoj *
* STRASBOURG – PLENARNA SJEDNICA*
* 13. ožujka 2024.
* **
* **
PARLAMENT DONIO REVOLUCIONARNI PROPIS O UMJETNOJ INTELIGENCIJI
•    Regulatorne mjere za umjetnu inteligenciju op?e namjene
•    Ograni?enja upotrebe sustava za biometrijsku identifikaciju u svrhu kaznenog progona
•    Zabrana društvenog vrednovanja gra?ana i upotrebe umjetne inteligencije za manipulaciju ili iskorištavanje ranjivosti korisnika
•    Pravo potroša?a na ulaganje pritužbi i dobivanje smislenih objašnjenja
Zastupnici su u srijedu odobrili Akt o umjetnoj inteligenciji koji jam?i sigurnost i zaštitu temeljnih prava te istodobno poti?e inovacije.*
Uredba dogovorena na pregovorima s državama ?lanicama u prosincu 2023. [1] usvojena je s 523 glasova za, 46 protiv i 49 suzdržanih. Cilj joj je zaštititi ljudska prava, demokraciju, vladavinu prava i okolišnu održivost od visokorizi?ne umjetne inteligencije, a istodobno poticati inovacije i osigurati Europi ulogu predvodnika u tom podru?ju. Pravila za umjetnu inteligenciju utvr?ena su na temelju njezinih potencijalnih rizika i razine u?inka.
Zabranjene primjene *
Novim pravilima zabranjene su odre?ene primjene umjetne inteligencije koje ugrožavaju prava gra?ana, uklju?uju?i sustave za biometrijsku kategorizaciju temeljene na osjetljivim karakteristikama i neciljano prikupljanje prikaza lica s interneta ili iz nadzornih snimaka radi stvaranja baza podataka za prepoznavanje. Zabranjuje se i prepoznavanje emocija na radnome mjestu i u školama, društveno vrednovanje gra?ana, prognosti?ki rad policije (kad se temelji isklju?ivo na izradi profila pojedinaca ili procjeni njihovih osobina) te umjetna inteligencija koja utje?e na ljudsko ponašanje ili iskorištava ranjivost pojedinaca.
Iznimke za potrebe kaznenog progona *
Upotreba sustava za daljinsku biometrijsku identifikaciju u svrhu kaznenog progona u na?elu je zabranjena, osim u okolnostima koje su iscrpno navedene i precizno definirane. Daljinska biometrijska identifikacija u stvarnom vremenu može se koristiti samo ako su ispunjeni strogi zahtjevi, npr. njezina je upotreba vremenski i geografski ograni?ena te je za nju prethodno izdano posebno sudsko ili upravno dopuštenje. Neki od primjera takvih okolnosti su ciljana potraga za nestalom osobom ili spre?avanje teroristi?kog napada. Naknadna upotreba sustava za daljinsku biometrijsku identifikaciju smatra se visokorizi?nom upotrebom i za nju je potrebno sudsko dopuštenje povezano s kaznenim djelom.
Obveze za visokorizi?ne sustave*
Predvi?ene su i jasne obveze za druge visokorizi?ne sustave umjetne inteligencije (zbog njihova znatnog potencijala za ugrožavanje zdravlja, sigurnosti, temeljnih prava, okoliša, demokracije i vladavine prava). Visokorizi?na umjetna inteligencija upotrebljava se, me?u ostalim, za kriti?nu infrastrukturu, obrazovanje i osposobljavanje, zapošljavanje, klju?ne privatne i javne usluge (npr. zdravstvo, bankarstvo), odre?ene sustave u okviru kaznenog progona, upravljanje migracijama i granicama, pravosu?e i demokratske procese (npr. utjecanje na izbore). Za takve sustave treba osigurati procjenu i ublažavanje rizika, vo?enje evidencije upotrebe, transparentnost i preciznost te ljudski nadzor. Gra?ani ?e imati pravo podnijeti tužbu povezanu s umjetnom inteligencijom te dobiti objašnjenja odluka temeljenih na visokorizi?nim sustavima umjetne inteligencije koje utje?u na njihova prava.
Zahtjevi za transparentnost *
Sustavi umjetne inteligencije op?e namjene i modeli na kojima se temelje moraju zadovoljavati odre?ene kriterije transparentnosti, uklju?uju?i uskla?enost sa zakonom EU o autorskim pravima i objavljivanje detaljnih sažetaka sadržaja koji se koristi za obuku. Snažniji sustavi umjetne inteligencije op?e namjene koji bi mogli predstavljati sistemske rizike podlijegat ?e dodatnim zahtjevima koji uklju?uju ocjenjivanje modela, procjene i ublažavanje tih rizika te prijavljivanje incidenata. Uz to, umjetno stvoreni ili manipulirani audiosadržaji, fotografije i videosadržaji (deepfakes) moraju biti jasno ozna?eni kao takvi.
Izjave*
Tijekom plenarne rasprave u utorak, suizvjestitelj Odbora za unutarnje tržište Brando Benifei [2] (S&D, Italija) rekao je: „Kona?no imamo prvi svjetski obvezuju?i zakon o umjetnoj inteligenciji, za smanjenje rizika, stvaranje prilika, borbu protiv diskriminacije i uvo?enje transparentnosti. Zahvaljuju?i Parlamentu, neprihvatljive prakse umjetne inteligencije bit ?e zabranjene u Europi, a prava radnika i gra?ana bit ?e zašti?ena. Ured za umjetnu inteligenciju sada ?e biti uspostavljen kao podrška tvrtkama da se po?nu pridržavati pravila prije nego ona stupe na snagu. Osigurali smo da ljudska bi?a i europske vrijednosti budu u samom središtu razvoja umjetne inteligencije.”
Suizvjestitelj Odbora za gra?anske slobode Dragos Tudorache [3] (Renew, Rumunjska) rekao je: „EU je uspjela. Koncept umjetne inteligencije utkali smo u temeljne vrijednosti koje ?ine osnovu naših društava. Me?utim, predstoji mnogo posla koji nadilazi sam Zakon o umjetnoj inteligenciji. Umjetna inteligencija ?e nas potaknuti da preispitamo društveni ugovor koji je u srcu naših demokracija, naše obrazovne modele, tržišta rada i na?in na koji vodimo rat. Zakon o umjetnoj inteligenciji polazište je za novi model upravljanja izgra?en oko tehnologije. Sada se moramo usredoto?iti na provo?enje ovog zakona u praksi”.
Poticanje inovacija te malih i srednjih poduze?a*
Treba uspostaviti regulatorno izolirano okruženje i testiranje u stvarnim uvjetima na nacionalnoj razini te omogu?iti start-up tvrtkama te malim i srednjim poduze?ima pristup istima kako bi mogla razvijati i trenirati inovativne sustave umjetne inteligencije prije njihova stavljanja na tržište.
Sljede?i koraci*
Uredbu još trebaju pregledati pravnici lingvisti, a o?ekuje se da ?e biti donesena prije kraja parlamentarnog saziva (u tzv. postupku ispravka [4] ). Vije?e ju tako?er treba službeno usvojiti. Stupit ?e na snagu dvadeset dana nakon objave u Službenom listu Europske unije i po?et ?e se primjenjivati 24 mjeseca nakon stupanja na snagu, osim zabranjenih primjena (šest mjeseci nakon stupanja na snagu), kodeksa prakse (devet mjeseci nakon stupanja na snagu), pravila za umjetnu inteligenciju op?e namjene uklju?uju?i upravljanje (12 mjeseci nakon stupanja na snagu) i obveza za visokorizi?ne sustave (36 mjeseci nakon stupanja na snagu).
Kontekst*
Zakon o umjetnoj inteligenciji izravno odgovara na prijedloge gra?ana Konferencije o budu?nosti Europe (COFE), konkretno na prijedlog 12. (10.) o ja?anju konkurentnosti EU u strateškim sektorima, prijedlog 33. (5.) o sigurnom i pouzdanom društvu, prijedlog 33. (5.) o sigurnom i pouzdanom društvu, uklju?uju?i suzbijanje dezinformacija i osiguravanje da ljudi u kona?nici imaju kontrolu, prijedlog 35. o promicanju digitalnih inovacija, (3.) uz osiguravanje ljudskog nadzora i (8.) pouzdanu i odgovornu upotrebu umjetne inteligencije, postavljanje mjera zaštite i osiguravanje transparentnosti te prijedlog 37. (3.) o korištenju AI i digitalnih alata za poboljšanje pristupa gra?ana informacijama, uklju?uju?i osobe s invaliditetom
Poveznice*
https://www.europarl.europa.eu/plenary/en/texts-adopted.html [5]
Rasprava na plenarnoj sjednici (xx.3.2024.)
Datoteka postupka
https://oeil.secure.europarl.europa.eu/oeil/popups/ficheprocedure.do?reference=2021/0106(COD)&l=en [7]
EP služba za istraživanja: zbirka studija o umjetnoj inteligenciji
https://epthinktank.eu/tag/artificial-intelligence/ [8]
https://www.europarl.europa.eu/doceo/document/PV-9-2024-03-13-RCV_EN.html [9]
______________________________________________________________________________________
Maja LJUBI? KUTNJAK  *
Ured Europskog parlamenta u Hrvatskoj None [10]
Barbara PERANI? *
Ured Europskog parlamenta u Hrvatskoj
(+385) 1 4880  233
____________________________________________________________________________________