hit.ro  »  IT  »  Inteligenta Artificiala  »  Legea privind inteligenta artificiala: Parlamentul European adopta un act de referinta

Legea privind inteligenta artificiala: Parlamentul European adopta un act de referinta

calendar_month 13 Mar 2024, 15:30


- Garantii pentru sistemele de inteligenta artificiala (IA) de uz general

- Limite la folosirea sistemelor de identificare biometrica de catre organele de aplicare a legii

- Atribuirea unui punctaj social si folosirea IA pentru a manipula oamenii sau a exploata vulnerabilitatile utilizatorilor sunt interzise

- Consumatorii au dreptul sa faca plangeri si sa primeasca explicatii relevante

PE a aprobat miercuri Legea privind inteligenta artificiala, care garanteaza siguranta si respectarea drepturilor fundamentale si stimuleaza inovatia.

Regulamentul, convenit in decembrie 2023 in cadrul negocierilor cu statele membre, a fost adoptat de deputatii europeni cu 523 voturi pentru, 46 impotriva si 49  abtineri.

El urmareste sa protejeze drepturile fundamentale, democratia, statul de drept si sustenabilitatea mediului in fata sistemelor de IA cu grad ridicat de risc. Actul legislativ vizeaza si sa incurajeze inovatia si sa asigure un rol de lider in domeniu pentru Europa. Regulamentul impune obligatii in cazul inteligentei artificiale, in functie de riscurile sale potentiale si de impactul preconizat.

Sunt interzise unele utilizari

Noile norme interzic anumite utilizari ale inteligentei artificiale care ameninta drepturile cetatenilor, inclusiv sistemele biometrice de clasificare bazate pe caracteristicile sensibile ale persoanelor. Extragerea fara scop precis a imaginilor faciale de pe internet ori din inregistrarile camerelor video cu circuit inchis pentru a crea baze de date de recunoastere faciala se numara si ea printre utilizarile interzise. Nu vor fi permise nici recunoasterea emotiilor la locul de munca si in scoli, atribuirea unui punctaj social, sistemele de politie predictiva (cand acestea se bazeaza doar pe stabilirea profilului unei persoane sau pe analizarea caracteristicilor sale) si IA care manipuleaza comportamentul uman sau exploateaza vulnerabilitatile oamenilor.

Exceptiile in cazul organelor de aplicare a legii

Folosirea sistemelor de identificare biometrica de catre organele de aplicare a legii este in principiu interzisa, cu exceptia unor situatii enumerate in mod exhaustiv si definite in mod strict. Sistemele de identificare biometrica „in timp real” pot fi instalate doar daca se respecta garantii stricte, de exemplu, daca folosirea lor este limitata in timp si geografic si este aprobata in prealabil de o autoritate judiciara sau de un organ administrativ. Ele pot fi folosite, de pilda, pentru a cauta o persoana disparuta sau pentru a preveni un atac terorist. Folosirea acestor sisteme post-facto (sistemele de identificare biometrica „ulterioara”) este considerata un caz de utilizare cu grad ridicat de risc si este posibila doar in virtutea emiterii unei autorizatii judiciare legate de o infractiune penala.

Obligatii pentru sistemele cu grad ridicat de risc

Textul prevede si obligatii clare pentru alte sisteme de IA cu grad ridicat de risc, din cauza potentialului lor ridicat de a afecta negativ sanatatea, siguranta, drepturile fundamentale, mediul, democratia si statul de drept. Iata cateva exemple de utilizari ale IA care prezinta un grad ridicat de risc: infrastructura critica, educatia si formarea profesionala, serviciile publice si private esentiale (sanatatea, serviciile bancare etc.), unele sisteme folosite de organele de aplicare a legii, migratia si gestionarea frontierelor, justitia si procesele democratice (de exemplu, pentru a preveni influentarea alegerilor). Aceste sisteme trebuie sa evalueze si sa reduca riscurile, sa mentina asa-numite „fisiere de jurnalizare” care permit inregistrarea automata a evenimentelor, sa fie transparente si precise si sa faca obiectul supravegherii umane. Cetatenii vor avea dreptul sa depuna plangeri in legatura cu sistemele de IA si sa primeasca explicatii despre deciziile bazate pe sisteme de IA cu grad ridicat de risc care le afecteaza drepturile.



Cerinte in materie de transparenta

Sistemele de inteligenta artificiala de uz general si modelele de IA de uz general pe care se bazeaza acestea trebuie sa respecte anumite cerinte in materie de transparenta, inclusiv legislatia UE in domeniul drepturilor de autor si publicarea unor rezumate detaliate ale continutului utilizat la antrenarea modelelor de IA. Modelele mai puternice pentru sistemele IA de uz general care ar putea prezenta riscuri sistemice vor trebui sa respecte cerinte suplimentare, inclusiv privind evaluarea modelelor, evaluarea si reducerea riscurilor sistemice si raportarea incidentelor.

In plus, imaginile si continuturile audio si video artificiale sau manipulate (de tip „deepfake”) trebuie sa fie etichetate clar ca atare.

Masuri pentru a sprijini inovarea si IMM-urile

La nivel national va fi obligatoriu sa se creeze spatii de testare in materie de reglementare si sa se organizeze testari in conditii reale. IMM-urile si companiile nou-infiintate vor trebui sa aiba acces la aceste instrumente pentru a dezvolta si antrena IA inovatoare, inainte de introducerea lor pe piata.

Citate

In cursul dezbaterii plenare de marti, coraportorul Comisiei pentru piata interna Brando Benifei (S&D, Italia) a declarat: „In sfarsit, avem prima lege obligatorie din lume privind inteligenta artificiala, pentru a reduce riscurile, a crea oportunitati, a combate discriminarea si a aduce transparenta. Datorita Parlamentului, practicile inacceptabile in domeniul IA vor fi interzise in Europa, iar drepturile lucratorilor si ale cetatenilor vor fi protejate. Oficiul pentru IA va fi acum infiintat pentru a sprijini companiile sa inceapa sa respecte normele inainte ca acestea sa intre in vigoare. Ne-am asigurat ca oamenii si valorile europene se afla chiar in centrul dezvoltarii IA”.

Coraportorul Comisiei pentru libertati civile Dragos Tudorache (Renew, Romania) a declarat: „UE a obtinut rezultate. Am legat conceptul de inteligenta artificiala de valorile fundamentale care stau la baza societatilor noastre. Cu toate acestea, vom avea mult de lucru in afara legii IA in sine. IA ne va obliga sa regandim contractul social in centrul democratiilor noastre, al modelelor noastre educationale, al pietelor fortei de munca si al modului in care se desfasoara operatiunile militare. Legea IA reprezinta un punct de plecare pentru un nou model de guvernanta construit in jurul tehnologiei. Acum trebuie sa ne concentram pe punerea in practica a acestei legi”.

Urmatorii pasi

Regulamentul este in prezent verificat de juristii-lingvisti si se preconizeaza ca va fi adoptat inainte de sfarsitul legislaturii (potrivit procedurii de rectificare). Legislatia mai trebuie adoptata formal si de Consiliu.

Ea va intra in vigoare la 20 de zile dupa publicarea in Jurnalul Oficial si va fi pe deplin aplicabila la 24 de luni dupa intrarea in vigoare, cu urmatoarele exceptii: interdictiile referitoare la practicile interzise se aplica incepand cu sase luni de la data intrarii in vigoare; codurile de bune practici (noua luni de la data intrarii in vigoare); normele privind sistemele de IA de uz general, inclusiv guvernanta (12 luni de la data intrarii in vigoare); si obligatiile pentru sistemele cu grad ridicat de risc (36 de luni).

Context

Legea privind inteligenta artificiala raspunde direct propunerilor cetatenilor din cadrul Conferintei privind viitorul Europei (COFE), in special propunerii 12(10) privind consolidarea competitivitatii UE in sectoarele strategice, propunerii 33(5) privind o societate sigura si de incredere, inclusiv prin combaterea dezinformarii si asigurarea faptului ca oamenii detin, in ultima instanta, controlul, propunerea 35 privind promovarea inovarii digitale, asigurand supravegherea umana si utilizarea fiabila si responsabila a IA, stabilind garantii si asigurand transparenta, si propunerea 37(3) privind utilizarea IA si a instrumentelor digitale pentru a imbunatati accesul cetatenilor la informatii, inclusiv al persoanelor cu handicap.





 

Sondaj

Ce cadou ti-ar placea sa primesti?