(AGENPARL) – mer 14 giugno 2023 Ured Europskog parlamenta u Hrvatskoj *
* STRASBOURG – PLENARNA SJEDNICA*
* 14. lipnja 2023.
* **
* **
Parlament spreman za pregovore o prvim pravilima o
sigurnoj umjetnoj inteligenciji *
– Zabrana umjetne inteligencije u svrhu biometrijskog nadzora, prepoznavanja emocija i prognosti?kog rada policije
– Sustavi poput ChatGPT-a moraju obznaniti da je sadržaj generiran s pomo?u umjetne inteligencije
– Sustavi umjetne inteligencije koji se koriste za utjecanje na glasa?e tijekom izbora smatraju se visokorizi?nim
Akt o umjetnoj inteligenciji promi?e prihva?anje
antropocentri?ne i pouzdane umjetne inteligencije ?ijom se primjenom ne
narušavaju zdra *
Europski parlament donio je u srijedu svoje pregovara?ko stajalište o Aktu o umjetnoj inteligenciji s 499 glasova za, 28 protiv i 93 suzdržanih, uo?i pregovora s državama ?lanicama o kona?noj verziji propisa. Njime bi se trebalo osigurati da je umjetna inteligencija koja se razvija i upotrebljava u Europi u potpunom skladu s pravima i vrijednostima EU-a, uklju?uju?i podru?ja ljudskog nadzora, sigurnosti, privatnosti, transparentnosti, nediskriminacije i ekološke dobrobiti.
Zabranjene prakse uporabe umjetne inteligencije *
pravila kategoriziraju sustave umjetne inteligencije prema stupnju rizika o
kojima onda ovise i uvjeti njihova korištenja, odnosno obveze pružatelja i onih
koji postavljaju sustave umjetne inteligencije. Stoga bi sustavi umjetne
inteligencije ?ija je razina rizika za sigurnost ljudi neprihvatljiva trebali biti zabranjeni (poput kategorizacije gra?ana na osnovu društvenog ponašanja
ili osobnih karakteristika). Zastupnici su proširili klasifikaciju
visokorizi?nih podru?ja zabranivši nametljive i
diskriminiraju?e upotrebe sustava umjetne inteligencije poput:
sustava za daljinsku biometrijsku identifikaciju „u
stvarnom vremenu” i sustava za „naknadnu” daljinsku biometrijsku
identifikaciju na javnim mjestima; sustava za biometrijsku kategorizaciju koji koriste
osjetljive zna?ajke (npr. rod, rasu, etni?ko podrijetlo, državljanstvo,
vjeroispovijest, politi?ku orijentaciju); sustava za prognosti?ki rad policije (koji se
temelje na izradi profila, lokaciji ili prethodnom kriminalnom ponašanju
pojedinca); sustava za prepoznavanje emocija u podru?ju kaznenog progona i upravljanja granicama, na radnom mjestu te u obraz ovnim ustanovama: te
neselektivnog prikupljanja snimaka lica s interneta
ili nadzornih snimaka radi stvaranja baza podataka za prepoznavanje lica
(pri ?emu se krše temeljna ljudska prava uklju?uju?i pravo na privatnost).
Visokorizi?ni sustavi umjetne inteligencije *
Zastupnici
su osigurali da klasifikacija visokorizi?nih aplikacija sad uklju?uje umjetnu
inteligenciju koja predstavlja znatnu opasnost za zdravlje, sigurnost i
temeljna prava ljudi te za okoliš. Na taj popis dodani su i sustavi umjetne
inteligencije koji se koriste za utjecanje na glasa?e i rezultate izbora i u sustavima
za preporu?ivanje [1] koje koriste platforme društvenih mreža (s više od 45
milijuna korisnika).
Obveze za sustave umjetne inteligencije op?e namjene
Dobavlja?i temeljnih modela (brzo razvijaju?a funkcija u podru?ju umjetne inteligencije) trebali bi procijeniti i ublažiti mogu?e rizike (po zdravlje, sigurnost, temeljna prava, okoliš, demokraciju i vladavinu prava) te registrirati svoje modele u bazi podataka EU-a prije nego što ih stave na zajedni?ko tržište. Sustavi generativne umjetne inteligencije poput ChatGPT-a trebali bi ispunjavati uvjete o transparentnosti (s izjavom da se radi o sadržaju izra?enom s pomo?u umjetne inteligencije, a tako?er bi trebali omogu?iti razlikovanje „uvjerljivih krivotvorenih slika“ od onih stvarnih)    i osigurati zaštitu od generiranja nezakonitog sadržaja. Detaljni sažeci podataka zašti?enih autorskim pravima koji se koriste za njihovo osposobljavanje tako?er bi trebali biti dostupni javnosti.
Poticanje inovacija i zaštita prava gra?ana *
Kako bi se potaknule inovacije u podru?ju umjetne inteligencije te podržala mala i srednja poduze?a, zastupnici su dodali iznimke za istraživa?ke aktivnosti i komponente umjetne inteligencije dostupne na temelju licencija otvorenog koda. Novi propis poti?e regulatorna izolirana okruženja ili stvarna okruženja koja utvr?uju javna tijela kako bi se sustavi umjetne inteligencije testirali prije upotrebe.
Kona?no, Parlament želi unaprijediti pravo gra?ana da podnesu tužbu povezanu s umjetnom inteligencijom te da dobiju objašnjenja odluka temeljenih na visokorizi?nim sustavima umjetne inteligencije koje bitno utje?u na njihova temeljna prava. Zastupnici tako?er žele revidirati ulogu Ureda Unije za umjetnu inteligenciju koji bi trebao pratiti primjenu pravila o umjetnoj inteligenciji.
Izjave *
Nakon glasanja suizvjestitelj Brando Benifei (S&D, Italija) [2] izjavio je :
„Danas su sve o?i uprte u nas. Dok velike tehnološke kompanije zvone na uzbunu zbog vlastitih kreacija, Europa je krenula naprijed i ponudila konkretne odgovore na rizike koji predstavlja umjetna inteligencija. Želimo da se upotrebljava pozitivni potencijal umjetne inteligencije za kreativnost i produktivnost. Ali tijekom pregovora s Vije?em tako?er ?emo se boriti za naša stajališta i suzbijanje opasnosti za naše demokracije i naše slobode."
Suzvjestitelj Drago? Tudorache (Renew, Rumunjska) [3] rekao je:
„Akt o umjetnoj inteligenciji postavit ?e standard u cijelom svijetu kad je rije? o njezinom razvoju i upravljanju njome. Osigurat ?e da se ova tehnologija – koja ?e radikalno transformirati naša društva kroz goleme prednosti koje može ponuditi –   razvija i koristi u skladu s europskim vrijednostima demokracije, temeljnih prava i vladavine prava”.
Sljede?i koraci *
Pregovori
s Vije?em o kona?noj verziji zakona zapo?et ?e kasnije tijekom dana.
Konferencija za medije *
Suizvjestitelji Brando Benifei (S&D, Italija) i Drago? Tudorache (Renew, Rumunjska) održat ?e konferenciju za medije 14. lipnja u 14 sati kako bi pojasnili rezultate današnjeg glasanja i sljede?e korake.
Ovim zakonodavstvom, zastupnici
Europskog parlamenta odgovaraju na prijedloge gra?ana s Konferencije o
budu?nosti Europe o osiguravanju ljudskog nadzora nad procesima povezanima s
umjetnom inteligencijom (prijedlog 35(3)); o potpunom korištenju potencijala
pouzdane umjetne inteligencije (35(8)); te o korištenju umjetne inteligencije i
tehnologija prevo?enja za prevladavanje jezi?nih barijera (37(3)).
Poveznice*
Datoteka postupka https://oeil.secure.europarl.europa.eu/oeil/popups/ficheprocedure.do?reference=2021/0191(COD)&l=en [5]
Rasprava
https://multimedia.europarl.europa.eu/en/package/robotics-and-artificial-intelligence_18009?tab=videos [6]
______________________________________________________________________________________
Maja LJUBI? KUTNJAK  *
Ured Europskog parlamenta u Hrvatskoj None [7]
Barbara PERANI? *
Ured Europskog parlamenta u Hrvatskoj
(+385) 1 4880  233
____________________________________________________________________________________