AI Act. Expert: Zona de resurse umane este cea mai periculoasă. Posibilitatea de a abuza de tehnologiile de inteligență artificială este uriașă

Posibilitatea de a abuza de tehnologii de supraveghere a angajaților folosind inteligența artificială este uriașă, iar domeniul resurselor umane prezintă cel mai mare pericol de încălcare a noului regulament european privind AI, avertizează consultantul Tudor Galoș, într-un interviu video acordat StartupCafe.ro. 

Noul regulament european AI Act a intrat în vigoare de la 1 august 2024, dar prevederile sale se vor aplica treptat din februarie 2025, pentru ca abia din august 2026 să se aplice toate restricțiile legate de tehnologiile de inteligență artificială prevăzute de noua lege. 

Pentru abateri de la AI Act, firmele vor risca amenzi de până la 7% din cifra de afaceri, iar consultantul Tudor Galoș a avertizat că zona de resurse umane este cea mai expusă riscului de a atrage sancțiuni. 

„Vorbim în special de zona de resurse umane, cam acestea sunt cele mai periculoase. Primele prevederi de AI interzis intră în vigoare din februarie 2025, apoi vin și celelalte. Dar deja sunt legi active care interzic anumite AI-uri. Chiar în GDPR este articolul 22, care spune că niciunui om nu i se pot atribui decizii automate de către un algoritm, cu anumite excepții. De exemplu, aceste filtrări de CV-uri. Trebuie să-i dai o alternativă și să faci analize de risc, data protection Impact assessment. 

Dar am văzut algoritmi care fac detecție de CV-uri și chiar în România au fost acele școli care voiau să introducă sisteme de camere cu circuit închis cu recunoaștere facială și recunoaștere biometrică, care să le permită doar elevilor înregistrați în școală accesul în școală și să-i urmărească pe coridoare. Posibilitatea de abuz este uriașă. Din fericire s-a renunțat la aceste proiecte. Discuția a fost destul de dură, pentru că mulți au spus vrem să știm cei care sunt traficanți de droguri, cei care sunt bully. Dar să ne înțelegem, ăia vor fi primii care vor ști cum să scape de aceste camere. 

Dar impactul asupra oamenilor este unul dezastruos. În primul rând, tu ai o recunoaștere facială a unui om și poți să-l urmărești ce face în toată școala, pe unde umblă, inclusiv pe profesori. Dacă directorul este certat cu 2-3 profesori, poate să vadă dacă ăștia se întâlnesc să uneltească. Sau elevi cu care nu se înțeleg, să vadă inclusiv ce vorbesc. Posibilitatea de a abuza de astfel de tehnologii este uriașă. Și pentru asta există GDPR, care spune foarte clar că nu poți să folosești așa ceva fără o analiză, fără să folosești alte sisteme, mai puțin intruzive. AI se mai folosește, mai puțin, în zona de urmărire a angajaților, deși mulți se gândesc să pună sisteme cu recunoaștere facială, ca în școli, dar sunt interzise”, a spus Galoș. 

Consultantul a menționat, însă, că IMM-urile beneficiază totuși de un regim de sancșiuni mai blând decât companiile mari. 

„Unul dintre lucrurile foarte faine la AI Act este că, în ceea ce înseamnă zona de amenzi, IMM-urile au, pentru prima oară, amenzi mult mai limitate. Dacă se folosește un sistem de tip AI interzis, amenda poate să meargă până la 7% din cifra de afaceri sau 35 milioane euro, la valoarea mai mare. Nu și la IMM-uri, unde regimul de amendă este cel mai mic dintre cele două, nu cel mai mare. Adică dacă ești o firmă mică și ai introdus un sistem de AI interzis sau de mare risc fără să faci analiza, amenda nu va mai fi de milioane de euro, ci o să fie proproțională cu business-ul și o să fie implicit mult mai mică, pentru a putea face această corecție. Și autoritățile au înțeles că IMM-urilor le este greu să înțeleagă la ora actuală ce înseamnă inteligența artificială. Le era foarte greu să înțeleagă ceea ce înseamnă date personale și în continuare multora le este greu să înțeleagă cât este de complex acest domeniu. Dar în domeniul inteligenței artificiale, de multe ori este greu să categorisești dacă o anumită aplicație sau algoritm se bazează sau nu pe inteligență artificială”, a mai explicat Tudor Galoș. 

Consultă AICI regulament AI Act.