Negociatorul român pentru legea europeană a inteligenței artificiale: ChatGPT ar trebui să dezvăluie toate materialele cu drepturi de autor folosite la antrenarea algoritmului

Compania americană OpenAI, care a dezvoltat robotul conversațional ChatGPT, ar trebui să respecte o serie întreagă de norme, printre care și obligația de a dezvălui materialele protejate de drepturi de autor pe care le-a folosit pentru a antrena algoritmul de inteligență artificială, dacă acum ar intra în vigoare regulamentul european AI Act - a explicat, miercuri, la Strasbourg, europarlamentarul român Dragoș Tudorache, raportor al Parlamentului European pentru proiectul de lege care va reglementa domeniul inteligenței artificiale în UE.

„Dacă regulile noastre ar intra în vigoare azi, (dezvoltatorii) Chat GPT ar trebui să țină cont de interesele celor din avalul lanțului valoric pentru a se asigura că au oferit informația necesară să se conformeze dacă intră în zone de risc ridicat. Trebuie să fie transparenți în privința datelor pe care le folosesc pentru a antrena modelul ChatGPT, despre cum funcționează ChatGPT, parametrii de bază ai sistemului. În al treilea rând, special pentru modelele de generative AI, de exemplu pentru ChatGPT, vor trebui să arate că, în cursul dezvoltării și conceperii algoritmului lor, au luat în considerare legalitatea conținutului care ar urma să fie produs - acum am un semn de întrebare dacă au făcut asta, când l-au dezvoltat . De asemenea, vor trebui să dezvăluie toate materialele protejate de drepturi de autor pe care le-au folosit în antrenarea algoritmului - trebuie să le documenteze cuprinzător și să fie transperenți în această privință. Asta trebuie să facă ChatGPT mâine, dacă legislația aceasta ar intra în vigoare acum” - a spus europarlamentarul român, într-o conferință.

Întrebat dacă reglementările europene aflate acum în procesul de legiferare vor împiedica apariția unor tehnologii europene precum ChatGPT, Tudorache a susținut că nu reglementarea domeniului inteligenței artificiale limitează activitatea startup-urilor europene de IA, ci lipsa finanțării.

„Este loc destul (pentru crearea unui ChatGPT european) și nu legislația este cea care ar limita un Chat GPT european, sunt altele. Dezvoltarea unui model ca ChatGPT necesită resurse enorme și accesul la acele resurse, la acel tip de fonduri, este cel care ar putea limita business-urile europene mai degrabă decât aceste reglementări” - a afirmat Tudorache răspunzând unei întrebări.

Reamintim că Parlamentul European a adoptat miercuri raportul lui Tudorache privind viitorul regulament UE AI Act, proiectul legislativ urmând să intre astfel în negocierile interinstituționale Parlamentul European-Consiliul UE-Comisia Europeană.

Potrivit Parlamentului European, proiectul de regulament AI Act prevede:

Interzicerea unor practici în contextul IA

Normele urmează o abordare bazată pe riscuri și stabilesc obligații pentru furnizori și pentru cei care implementează sisteme de IA, în funcție de nivelul de risc pe care îl poate prezenta inteligența artificială. Astfel, sistemele de IA cu un nivel inacceptabil de risc pentru siguranța oamenilor ar urma să fie interzise, precum cele care utilizează evaluarea comportamentului social (clasificând oamenii pe baza comportamentului social sau a caracteristicilor personale).

Eurodeputații au inclus în listă interdicții referitoare la utilizările intruzive și discriminatorii ale IA, cum ar fi:

•     utilizarea sistemelor de identificare biometrică la distanță „în timp real” sau „ulterioară” în spații accesibile publicului;
•     sistemele biometrice de clasificare care folosesc caracteristici sensibile (de exemplu, genul, rasa, etnia, statutul de cetățenie, religia, orientarea politică);
•     sistemele polițienești bazate pe analiza predictivă (bazate pe profilare, localizare sau comportamentul infracțional anterior);
•     sistemele de recunoaștere a emoțiilor folosite la locul de muncă sau în cadrul instituțiilor de învățământ, ori în domeniul aplicării legii sau al gestionării frontierelor; și
•     extragerea fără scop precis a datelor biometrice din imaginile faciale de pe internet sau înregistrări făcute de televiziunile cu circuit închis pentru a crea baze de date de recunoaștere facială (încălcând drepturile omului și dreptul la viață privată).

Sistemele de IA cu grad ridicat de risc

Eurodeputații s-au asigurat că clasificarea aplicațiilor cu grad ridicat de risc va include acum sistemele de IA care afectează în mod semnificativ sănătatea, siguranța sau drepturile fundamentale ale oamenilor ori mediul înconjurător. Sistemele de IA folosite pentru a influența alegătorii și rezultatul alegerilor și în sistemele de recomandare utilizate de platformele de comunicare socială (cu peste 45 de milioane de utilizatori) au fost adăugate pe lista cu risc ridicat.

Obligații pentru IA de uz general

Furnizorii de sisteme de inteligență artificială de uz general – o branșă nouă, cu evoluție rapidă în domeniul IA – vor trebui să evalueze și să atenueze posibilele riscuri (față de sănătate, siguranță, drepturile fundamentale, mediu, democrație și statul de drept) și să își înregistreze modelele în baza de date a Uniunii înainte de a le lansa pe piața UE. Sistemele de IA generative bazate pe astfel de modele, cum ar fi ChatGPT, ar trebui să respecte cerințele de transparență (adică trebuie să divulge când un conținut a fost generat de IA, inclusiv pentru a ajuta la distingerea așa-numitelor imagini „deep fake” de cele reale) și să introducă garanții împotriva generării de conținut ilegal. Ar trebui să fie puse la dispoziția publicului și rezumate detaliate ale datelor protejate prin drepturi de autor folosite pentru a antrena aceste sisteme.

Sprijinirea inovării și protejarea drepturilor cetățenilor

Pentru a stimula inovarea în domeniul IA și pentru a sprijini IMM-urile, deputații au adăugat derogări pentru activitățile de cercetare și componentele de IA furnizate sub licențe cu sursă deschisă. Noua lege promovează așa-numitele „spații de testare în materie de reglementare”, adică medii controlate similare cu cel real, create de autoritățile publice pentru a testa IA înainte de a o folosi în situații reale.

În fine, eurodeputații doresc să consolideze dreptul cetățenilor de a depune plângeri despre sistemele de IA și de a primi explicații despre deciziile bazate pe sisteme de IA cu grad ridicat de risc care au un impact semnificativ asupra drepturilor lor fundamentale. De asemenea, eurodeputații au actualizat rolul Oficiului pentru IA al Uniunii Europene, care va avea sarcina de a monitoriza modul în care este pus în aplicare cadrul de reglementare privind IA.