1. Cine este utilizatorul și de ce contează rolul
Regulamentul face distincție între cei care dezvoltă un sistem AI și cei care îl utilizează. Aceștia din urmă sunt numiți în anumite texte utilizatori sau integratori operaționali (termenul englezesc fiind „deployer”), adică partea care pune sistemul în funcțiune. Oricine achiziționează un software de recrutare și îl folosește în propriile procese este un utilizator, chiar dacă nu a scris niciodată o linie de cod. Această diferențiere contează deoarece obligațiile diferă, iar o companie poate avea roluri diferite pentru sisteme diferite.
Rolul nu se stabilește printr-o simplă etichetă. Dacă personalizezi sistemul în mod substanțial, dacă îi modifici scopul preconizat sau dacă îl introduci pe piață sub propriul nume, poziția ta se poate schimba, iar odată cu ea și obligațiile. Înainte de a planifica activitățile, verifică modul în care furnizorul a descris produsul și ce modificări ai în plan privind modul de utilizare.
2. Când este un sistem considerat cu risc ridicat
Un sistem este clasificat cu grad ridicat de risc în două cazuri principale: atunci când este o componentă de siguranță a unui produs deja reglementat de alte norme europene sau când utilizarea sa se încadrează în lista cazurilor prevăzute în regulament. Acea listă include domenii precum gestionarea personalului, acordarea creditelor, anumite servicii esențiale și educația. Nu toate utilizările din acele domenii prezintă un risc ridicat: ceea ce contează este funcția concretă pe care instrumentul o îndeplinește în procesul tău.
Primul pas operațional este clasificarea detaliată în ghidul dedicat. Aici este suficient să reții că evaluarea trebuie făcută pe utilizarea reală din companie, nu pe fișa tehnică a produsului. Un sistem generic de analiză a textului poate deveni cu risc ridicat în momentul în care este folosit pentru a evalua candidați, moment în care regulile de urmat se schimbă radical. Verificarea trebuie repetată de fiecare dată când funcția se modifică, nu doar la momentul achiziției.
3. Obligațiile practice pentru utilizator
Pentru un sistem cu risc ridicat, regulamentul îi cere utilizatorului o serie de acțiuni concrete. Acestea nu sunt simple formalități: fiecare necesită un responsabil și dovezi scrise. Detaliile exacte trebuie confirmate cu un consultant, însă cadrul general este cel prezentat mai jos, adaptabil la sectorul tău și la fluxul tău de lucru. Folosește lista ca punct de referință și adaptează elementele la procesul tău, adăugând ceea ce este cu adevărat necesar.
Supravegherea și jurnalele sunt cerințele pe care companiile le neglijează cel mai des. O persoană care aprobă automat fiecare propunere a sistemului nu supraveghează nimic în realitate. Stabilește criterii clare privind situațiile în care o decizie trebuie revizuită, cine poate opri utilizarea și în ce intervale de timp trebuie să intervină responsabilul dacă apare o problemă. Documentează desemnarea persoanelor care asigură supravegherea, specificând rolul și instruirea primită.
- Utilizează sistemul conform instrucțiunilor puse la dispoziție de furnizor.
- Încredințează supravegherea umană unor persoane competente, care au autoritatea de a interveni sau de a opri sistemul.
- Verifică dacă datele de intrare sunt relevante și adecvate scopului declarat.
- Monitorizează funcționarea și raportează furnizorului orice problemă semnificativă.
- Păstrează jurnalele generate automat de sistem pe perioada prevăzută de normele aplicabile.
- Informează persoanele vizate atunci când sistemul intervine într-o decizie care le privește.
4. Angajații și persoanele vizate
Acolo unde sistemul îi afectează pe angajați, regulamentul impune în anumite cazuri ca lucrătorii și reprezentanții acestora să fie informați înainte de utilizarea instrumentului la locul de muncă. Legislația națională a muncii poate adăuga pași suplimentari, cum ar fi consultarea reprezentanților salariaților. Implicarea acestora trebuie planificată alături de consultantul de dreptul muncii înainte de activarea instrumentului, nu după. Dacă această obligație este neclară în situația ta, cere confirmarea consultantului înainte de lansarea sistemului.
Persoanele care fac obiectul unei decizii asistate de sistem au dreptul de a primi informații clare despre rolul pe care l-a avut inteligența artificială. Pregătește un text scurt și ușor de înțeles pe care să îl integrezi în proces, alături de o procedură pentru a răspunde întrebărilor sau contestațiilor. Nu este o chestiune de formă: este punctul de contact direct dintre sistem și om și adesea primul element contestat.
5. Evaluarea impactului asupra drepturilor fundamentale
Pentru anumiți utilizatori, în special organisme publice sau entități private care furnizează servicii publice, precum și pentru utilizări specifice cum ar fi anumite evaluări ale solvabilității financiare sau evaluări de risc pentru asigurările de viață și sănătate, este obligatorie o evaluare a impactului asupra drepturilor fundamentale. Aceasta depinde de tipul de entitate și de caz. Verifică alături de consultant dacă ți se aplică, deoarece, dacă este necesară, trebuie finalizată înainte de punerea în funcțiune.
Evaluarea descrie scopul sistemului, cine este implicat, ce riscuri pot apărea pentru drepturile persoanelor și ce măsuri le reduc. Este un document de lucru dinamic ce trebuie actualizat, nu o simplă bifă birocratică. Trebuie tratată conform unui ghid dedicat, având o structură proprie și o metodologie specifică de elaborare. Asigură-te că textul este clar și inteligibil chiar și pentru cineva care nu cunoaște detaliile tehnice ale sistemului.
6. Incidente, disfuncționalități și comunicări
Dacă sistemul produce o consecință gravă sau o defecțiune semnificativă, utilizatorul trebuie să informeze furnizorul și, în cazurile prevăzute de lege, autoritățile competente. Definește din timp ce înseamnă un incident grav în contextul tău: o eroare izolată, un tipar repetat de anomalii sau excluderea nedreaptă a unei persoane. O definiție clară în scris previne dezbaterile inutile în situații de criză, când timpul este limitat. Consemnează rezultatele fiecărei verificări, pozitive sau negative, pentru a putea demonstra diligența depusă.
Pregătește și o procedură internă: cine este alertat, cine are autoritatea de a suspenda sistemul, cum se documentează cazul și cum se revine la procesul manual. Această legătură cu continuitatea activității este adesea cel mai util element, deoarece un sistem oprit trebuie înlocuit imediat cu un proces operațional funcțional. Conexiunea cu planul de continuitate trebuie verificată împreună cu cei care gestionează direct procesele de lucru.
7. Contracte și furnizori: ce să soliciți
Contractul cu furnizorul este instrumentul prin care obții informațiile necesare. Solicită documentație tehnică privind utilizarea prevăzută, instrucțiuni de operare, limitări cunoscute, date necesare, proceduri de actualizare și procesul de notificare a incidentelor. Dacă furnizorul nu poate răspunde la aceste puncte, refuzul sau lipsa răspunsului reprezintă un risc ce trebuie consemnat. Cere de asemenea angajamentul furnizorului de a notifica orice modificări care îți influențează modul de utilizare, nu doar noutățile strict tehnice.
Verifică de asemenea cine poate accesa datele și unde sunt stocate acestea, tratând cele două aspecte distinct. Un furnizor care garantează acuratețea în termeni vagi nu îți oferă elementele necesare pentru a-ți dovedi diligența profesională. Solicită în scris tot ce ai nevoie pentru guvernanța sistemului, de la descrierea funcționării până la actualizările viitoare. Dacă răspunsul primit este neclar, tratează riscul ca fiind negestionat și stabilește un termen-limită pentru clarificarea lui.
8. Subiecte de aprofundat în grupul tematic
Acest ghid funcționează ca o hartă orientativă. Întrebările care merită o analiză aprofundată separată sunt: cum se clasifică sistemele după nivelul de risc, ce practici sunt strict interzise, cum se elaborează evaluarea impactului asupra drepturilor fundamentale, cum se corelează AI Act cu GDPR și ce se schimbă în zona de resurse umane. Fiecare amânare are sens doar dacă tema rămâne pe agenda internă cu un responsabil și o dată fixată.
Dacă ai deja un sistem în funcțiune, citește mai întâi ghidul despre clasificare. Dacă folosești inteligența artificială pentru selecția sau evaluarea oamenilor, treci direct la ghidul privind resursele umane. Dacă dezvolți un produs pe baza unui model fundamental furnizat de un terț, ghidul dedicat modelelor de uz general te va ajuta să înțelegi ce informații să soliciți. În acest fel, ghidul potrivit vine la momentul potrivit, fără a rămâne o simplă intenție.
9. Cum să începi
În această săptămână, alege sistemul care se apropie cel mai mult de o utilizare cu risc ridicat și solicită de la furnizor trei documente: instrucțiunile de utilizare, descrierea scopului preconizat și instrucțiunile privind supravegherea. Cu aceste documente poți stabili dacă rolul și perimetrul tău sunt clare sau dacă ai nevoie de informații suplimentare înainte de a merge mai departe. Nu trebuie să fii deja 100% conform pentru a începe: trebuie doar să știi de unde pornești și cine decide.
Desemnează apoi un responsabil intern pentru acel sistem și organizează o primă întâlnire cu consultantul de conformitate și cu departamentul de resurse umane, dacă este implicat. Nu ai nevoie de un plan exhaustiv imediat. Ceea ce contează este să știi cine decide, cine supraveghează și ce informații lipsesc încă. Stabilește împreună cu ei și data următoarei revizuiri, astfel încât munca să nu se oprească după prima ședință.
Întrebări frecvente
Sunt o companie care folosește un software de recrutare: sunt automat încadrat la risc ridicat?
Nu în mod automat. Ceea ce contează este modul concret în care folosești aplicația. Dacă utilizarea include trierea, selectarea sau evaluarea candidaților, sistemul se încadrează într-o zonă considerată sensibilă de regulament și trebuie analizat cu maximă atenție. Dacă instrumentul se limitează la arhivarea documentelor sau la expedierea comunicărilor, situația se schimbă. Realizează clasificarea pe baza utilizării efective și documentează argumentele.
Este suficientă o supraveghere umană pur formală?
Nu. Supravegherea trebuie să fie reală: o persoană competentă, care are timpul și autoritatea necesare pentru a verifica și, dacă este cazul, pentru a opri sistemul. Dacă persoana respectivă aprobă mecanic fiecare propunere fără a o putea pune la îndoială, supravegherea este doar de fațadă. Documentează cine realizează supravegherea, ce instruire a primit și ce procedură de intervenție aplică.
Trebuie să păstrez jurnalele generate de sistem?
În general, da: ți se cere să păstrezi jurnalele (logurile) pe care sistemul le generează automat, pe durata prevăzută de regulile aplicabile și de contextul tău operațional. Durata exactă trebuie stabilită cu un consultant. Corelează această păstrare cu normele de protecție a datelor, deoarece jurnalele pot conține date cu caracter personal și trebuie tratate conform cerințelor legale.
Este furnizorul obligat să îmi spună cum funcționează sistemul?
Trebuie să îți pună la dispoziție informații suficiente pentru a-l utiliza corect, cum ar fi instrucțiuni de operare, limitări și date necesare. Nu este obligat să dezvăluie secrete industriale sau fiecare detaliu tehnic intern. Pentru activitatea ta ai nevoie de informații operaționale clare, furnizate în scris. Dacă răspunsurile sunt vagi, solicită clarificări înainte de a utiliza sistemul în decizii reale despre oameni.
Ce se întâmplă dacă furnizorul actualizează sistemul?
O actualizare poate modifica funcționalitățile, limitele sau profilul de risc al sistemului. Solicită furnizorului o descriere detaliată a modificărilor și evaluează dacă este necesară revizuirea clasificării sau a procedurii de supraveghere. Nu presupune niciodată că o actualizare este neutră, mai ales dacă schimbă algoritmii prin care sistemul evaluează oamenii.
De când devin obligatorii aceste cerințe?
Prevederile se aplică etapizat și pot suferi ajustări prin măsuri legislative ulterioare. Nu este recomandat să îți fundamentezi planul pe date găsite în rezumate generice. Verifică textul oficial actualizat și calendarul de aplicare alături de un consultant înainte de a-ți asuma angajamente interne și planifică tranziția în consecință.
Este suficient să mă bazez pe furnizor pentru a fi în conformitate?
Nu. Furnizorul are responsabilități pentru produsul pe care îl dezvoltă, însă utilizarea acestuia în cadrul organizației tale rămâne responsabilitatea ta exclusivă. Contractul ajută la împărțirea clară a sarcinilor, dar nu înlocuiește supravegherea, controalele și documentația internă. Păstrează în scris răspunsurile furnizorului și deciziile interne, deoarece ele constituie dovada că ai guvernat corect sistemul.