Eurodeputații propun un set de reguli pentru “dezvoltarea etică” a inteligenței artificiale. Printre altele, interzic scanarea și stocarea trăsăturilor oamenilor de pe camere de filmat publice și de pe rețele de socializare. Urmează negocieri cu statele membre.

Odată aprobate, aceste reguli vor deveni primele din lume privind inteligența artificială, care vor “asigura o dezvoltare etică și centrată pe om a inteligenței artificiale (AI) în Europa”, a transmis Parlamentul European într-un comunicat de presă.

Deputații europeni urmăresc să se asigure, printre altele, că sistemele AI sunt supravegheate de oameni, sunt sigure, transparente, nediscriminatorii și ecologice. Aceștia doresc, de asemenea, să aibă o definiție uniformă a conceptului de “inteligență artificială” concepută pentru a fi neutră din punct de vedere tehnologic, astfel încât să se poată aplica inclusiv sistemelor dezvoltate în viitor.

Regulile stabilesc obligații pentru furnizori și utilizatori în funcție de nivelul de risc generat de AI. Sistemele de inteligență artificială cu un nivel inacceptabil de risc pentru siguranța oamenilor vor fi strict interzise, ​​inclusiv sistemele care desfășoară tehnici subliminale sau manipulative intenționate, exploatează vulnerabilitățile oamenilor sau sunt utilizate pentru scoring social (clasificarea persoanelor în funcție de comportamentul lor social, statutul socio-economic sau caracteristicile personale).

Deputații au modificat în mod substanțial lista pentru a include interzicerea utilizării intruzive și discriminatorii ale sistemelor AI, cum ar fi:

• Sisteme de identificare biometrică la distanță “în timp real” în spații accesibile publicului;
• Sisteme de identificare biometrică la distanță prin stocarea datelor, cu excepția organelor de drept pentru urmărirea penală a infracțiunilor grave și numai după autorizarea judiciară;
• Sisteme de clasificare biometrică folosind caracteristici sensibile (de exemplu, gen, rasă, etnie, cetățenie, religie, orientare politică);
• Sisteme de supraveghere predictivă (bazate pe profilare, locație sau comportament criminal din trecut);
• Sisteme de recunoaștere a emoțiilor în rândul forțelor de ordine, a personalului care asigură managementul frontierelor, la locul de muncă și în instituțiile de învățământ;
• Scanarea fără discernământ a datelor biometrice de pe rețelele de socializare sau din imagini CCTV, pentru a crea baze de date de recunoaștere facială (încălcarea drepturilor omului și a dreptului la confidențialitate).

Modelele de bază generative, cum ar fi GPT, vor trebui să respecte cerințe suplimentare de transparență, cum ar fi să prevină generarea de conținut ilegal. Pentru a stimula inovația în domeniul inteligenței artificiale, deputații au adăugat derogări la aceste reguli pentru activitățile de cercetare și componentele de inteligență artificială furnizate în baza licențelor open source. Deputații europeni au întărit și dreptul cetățenilor de a depune plângeri cu privire la sistemele de inteligență artificială și de a primi explicații cu privire la deciziile bazate pe sisteme de inteligență artificială cu risc ridicat care le afectează în mod semnificativ drepturile. 

Înainte de a începe negocierile cu statele membre privind forma finală a legii, acest proiect de mandat de negociere trebuie să fie avizat de întregul Parlament, urmând să fie supus votului în sesiunea 12-15 iunie.

Sursă: Parlamentul European