Parlamentul European a aprobat Actul privind Inteligența Artificială

Parlamentul European a votat, miercuri, în favoarea aprobării Actului privind Inteligența Artificială („AI Act”), care reglementează dezvoltarea IA, astfel încât aceasta nu reprezintă un risc pentru omenire.

Actul privind Inteligența Artificială a fost agreat împreună cu statele membre ale UE în decembrie 2023, iar astăzi a fost aprobat în Parlament, cu 523 voturi în favoarea acestuia, 46 împotrivă și 49 abțineri.

Actul legislativ are ca scop protejarea drepturilor fundamentale, a democrației, a statului de drept și a sustenabilității mediului de inteligența artificială cu risc ridicat.

Astfel, „AI Act” cuprinde obligații pentru inteligența artificială în funcție de riscurile potențiale și de nivelul impactului acesteia.

În document, se precizează interzicerea categorizării biometrice ale oamenilor, cum ar fi colectarea imaginilor de pe camerele de supraveghere pentru a crea baze de date pentru recunoaștere facială.

Totodată, vor fi interzise recunoașterea emoțională la locul de muncă și în școli, scorul social, poliția predictivă (când se bazează doar pe profilarea unei persoane sau evaluarea caracteristicilor acesteia) și inteligența artificială care manipulează comportamentul uman sau exploatează vulnerabilitățile oamenilor.

Actul prevede, de asemenea, obligații pentru alte sisteme de inteligență artificială cu risc ridicat, care pot dăuna sănătății, siguranței, drepturilor fundamentale, mediului, democrației și statului de drept.

Exemple de utilizări ale IA cu risc ridicat includ infrastructura critică, educația și formarea profesională, ocuparea forței de muncă, serviciile private și publice esențiale, anumite sisteme din domeniul aplicării legii, gestionarea migrației și a frontierelor, justiția și procesele democratice.

Aceste sisteme trebuie să evalueze și să reducă riscurile, să mențină jurnalele de utilizare, să fie transparente și precise și să asigure supravegherea umană.

Cetățenii vor avea dreptul să depună reclamații cu privire la sistemele de inteligență artificială și să primească explicații cu privire la deciziile bazate pe sisteme de inteligență artificială cu risc ridicat care le afectează drepturile.

Ce se mai menționează în „AI Act”

• Sistemele de inteligență artificială cu utilizare generală (GPAI) și modelele de acest tip pe care se bazează trebuie să îndeplinească anumite cerințe de transparență, inclusiv respectarea dreptului de autor al UE și publicarea unor rezumate detaliate ale conținutului utilizat pentru instruire.
• Modelele GPAI mai puternice care ar putea prezenta riscuri sistemice se vor confrunta cu cerințe suplimentare, inclusiv efectuarea de evaluări ale modelului, evaluarea și atenuarea riscurilor sistemice și raportarea incidentelor.
• Imaginile, sunetele sau videoclipurile artificiale sau manipulate („deepfake”) trebuie etichetate ca atare.

Actul mai susține că trebuie create la nivel național medii de testare reglementate („sandbox”) și teste în mediul real, accesibile IMM-urilor și startup-urilor, pentru a dezvolta și instrui inteligența artificială înainte de punerea pe piață.