GUIDA · AI ACT

Sistemi di AI ad alto rischio: gli obblighi di chi li utilizza in azienda

Questa guida di riferimento spiega quali obblighi l'AI Act pone a chi utilizza un sistema di AI ad alto rischio senza esserne lo sviluppatore. Dopo la lettura saprai riconoscere il tuo ruolo, individuare le attività necessarie e scegliere da quale approfondimento partire. Il quadro dipende dal caso concreto e va confermato con un consulente.

Aggiornata a ottobre 2026
9 min di lettura
Redazione Tecnica Altovar

1. Chi è l'utilizzatore e perché il ruolo conta

Il regolamento distingue tra chi sviluppa un sistema di AI e chi lo impiega. Il secondo, cioè l'utilizzatore, in alcuni testi è chiamato deployer, parola inglese che indica chi mette in funzione il sistema. Chi compra un software di selezione del personale e lo usa nei propri processi è un utilizzatore, anche se non ha scritto una riga di codice. Questa distinzione conta perché gli obblighi sono diversi, e un'azienda può avere ruoli diversi su sistemi diversi.

Il ruolo non si decide per etichetta. Se personalizzi il sistema in modo sostanziale, se cambi la finalità prevista o se lo immetti sul mercato con il tuo nome, la tua posizione può cambiare e con essa gli obblighi. Prima di pianificare il lavoro, verifica quindi come il fornitore ha descritto il prodotto e quali modifiche hai in programma sul tuo uso.

2. Quando un sistema è ad alto rischio

Un sistema è ad alto rischio in due casi principali: quando è un componente di sicurezza di un prodotto già regolato da altre norme europee, oppure quando il suo uso rientra nell'elenco di casi previsto dal regolamento. Quell'elenco include aree come la gestione del personale, il credito, alcuni servizi essenziali e l'istruzione. Non tutti gli usi in quelle aree sono ad alto rischio: conta la funzione concreta che lo strumento svolge nel tuo processo.

Il primo passo operativo è la classificazione descritta nella guida dedicata. Qui basta ricordare che va fatta sull'uso dell'azienda, non sulla scheda del prodotto. Un sistema generico di analisi del testo può diventare ad alto rischio nel momento in cui viene usato per valutare candidati, e a quel punto cambiano le regole da rispettare. Il controllo va ripetuto ogni volta che la funzione cambia, non solo al momento dell'acquisto.

3. Gli obblighi pratici per l'utilizzatore

Per un sistema ad alto rischio il regolamento chiede all'utilizzatore alcune azioni concrete. Non sono formalità: ciascuna richiede un responsabile e una prova scritta. Il dettaglio va confermato con il consulente, ma l'impianto generale è quello qui sotto, da adattare al tuo settore e al tuo processo di lavoro. Usa l'elenco come riferimento e adatta le voci al tuo processo, aggiungendo quelle che servono davvero.

Le voci sulla supervisione e sui log sono quelle che le aziende trascurano più spesso. Una persona che approva automaticamente ogni proposta del sistema non sta supervisionando nulla. Stabilisci criteri chiari su quando la decisione va rivista, chi può interrompere l'uso e in quali tempi il responsabile deve intervenire quando emerge un problema. Documenta la scelta delle persone che supervisionano, con il ruolo e la formazione ricevuta.

  • Usare il sistema secondo le istruzioni che il fornitore mette a disposizione.
  • Affidare la supervisione umana a persone competenti, con l'autorità di intervenire o fermare il sistema.
  • Controllare che i dati di ingresso siano pertinenti rispetto alla finalità dichiarata.
  • Monitorare il funzionamento e segnalare al fornitore i problemi rilevanti.
  • Conservare i log generati dal sistema per il periodo previsto dalle regole applicabili.
  • Informare le persone interessate quando il sistema interviene su una loro decisione.

4. Lavoratori e persone interessate

Quando il sistema tocca i lavoratori, il regolamento richiede in alcuni casi di informare i lavoratori e i loro rappresentanti prima dell'uso sul luogo di lavoro. Le regole nazionali sul lavoro possono aggiungere ulteriori passaggi, come il confronto con le rappresentanze. Il coinvolgimento va pianificato con il consulente del lavoro prima dell'attivazione dello strumento, non dopo. Se il coinvolgimento non è chiaro nel tuo caso, chiedi conferma al consulente prima di far partire il sistema.

Le persone che sono oggetto di una decisione assistita dal sistema hanno diritto a ricevere informazioni chiare sul ruolo che il sistema ha avuto. Prepara un testo breve e comprensibile da inserire nel processo, e una procedura per rispondere a domande o contestazioni. Non è un dettaglio di forma: è il punto in cui il sistema incontra la persona, e spesso è quello che viene contestato per primo.

5. La valutazione d'impatto sui diritti fondamentali

Per alcuni utilizzatori, soprattutto soggetti pubblici o privati che erogano servizi pubblici, e per usi specifici come certe valutazioni del merito creditizio o alcune valutazioni dei rischi nelle assicurazioni sulla vita e sulla salute, è prevista una valutazione d'impatto sui diritti fondamentali. Dipende dal tipo di soggetto e dall'uso. Verifica con il consulente se ti riguarda, perché in caso affermativo va fatta prima dell'avvio.

La valutazione descrive a cosa serve il sistema, chi è coinvolto, quali rischi per i diritti delle persone possono emergere e quali misure li riducono. È un documento di lavoro da aggiornare, non un adempimento da chiudere una volta. Va trattata come guida dedicata, perché ha una struttura propria e un proprio percorso di preparazione. Verifica che il testo sia comprensibile anche per chi non conosce il sistema.

6. Incidenti, guasti e comunicazioni

Se il sistema produce un esito grave o un malfunzionamento significativo, l'utilizzatore deve informare il fornitore e, nei casi previsti, le autorità competenti. Definisci in anticipo cosa conta come incidente grave nel tuo contesto: un errore isolato, uno schema ripetuto di errori, un'esclusione ingiusta di una persona. Una definizione scritta evita discussioni durante l'emergenza, quando il tempo manca. Registra anche gli esiti di ogni verifica, positiva o negativa, per poter dimostrare il lavoro fatto.

Prepara anche una procedura interna: chi viene avvisato, chi può sospendere il sistema, come si documenta il caso e come si torna al processo manuale. Questo collegamento con la continuità operativa è spesso l'elemento più utile, perché un sistema fermato deve essere sostituito da un processo che funziona davvero. Il collegamento con il piano di continuità deve essere verificato con chi gestisce i processi operativi.

7. Contratti e fornitori: cosa chiedere

Il contratto con il fornitore è lo strumento con cui ottieni le informazioni necessarie. Chiedi documentazione tecnica sull'uso previsto, istruzioni operative, limiti noti, dati necessari, modalità di aggiornamento e procedura di segnalazione degli incidenti. Se il fornitore non sa rispondere su questi punti, la risposta stessa è un'informazione da registrare come rischio. Chiedi anche l'impegno del fornitore a segnalare le modifiche che riguardano il tuo uso, non solo quelle tecniche.

Verifica anche chi può accedere ai dati e dove sono conservati, tenendo separate le due domande. Un fornitore che garantisce accuratezza in forma generica non ti dà gli elementi per dimostrare la tua diligenza. Richiedi per iscritto ciò che ti serve per governare il sistema, dalla descrizione del funzionamento alle modifiche future. Se la risposta non è chiara, considera il rischio come non ancora gestito e fissa una scadenza per chiudere il punto.

8. Argomenti da approfondire nel cluster

Questa guida fa da mappa. Le domande che meritano approfondimenti separati sono: come classificare i sistemi per livello di rischio, quali pratiche sono vietate, come si prepara la valutazione d'impatto sui diritti fondamentali, come si coordinano AI Act e GDPR e che cosa cambia per le risorse umane. Ogni rinvio ha senso solo se il tema resta in agenda con un responsabile e una data.

Se hai un sistema già in uso, leggi prima la guida sulla classificazione. Se usi l'AI per selezionare o valutare persone, passa alla guida sulle risorse umane. Se costruisci un prodotto su un modello di base fornito da terzi, la guida sui modelli di uso generale ti aiuta a capire quali informazioni chiedere. In questo modo la guida giusta arriva al momento giusto, e non resta un'intenzione.

9. Come iniziare

Questa settimana scegli il sistema che più si avvicina a un uso ad alto rischio e chiedi al fornitore tre documenti: le istruzioni d'uso, la descrizione dell'uso previsto e le informazioni sulla supervisione. Con questi documenti puoi capire se il tuo ruolo e il tuo perimetro sono chiari, o se servono altre informazioni prima di andare avanti. Non serve essere già in regola per iniziare: serve sapere da dove partire e chi lo decide.

Poi assegna un responsabile interno per quel sistema e fissa una prima riunione con il consulente per la conformità e con l'ufficio del personale, se è coinvolto. Non serve un piano completo subito. Serve sapere chi decide, chi supervisiona e quali informazioni mancano ancora. Chiedi anche di indicare la data della prossima verifica, così il lavoro non si ferma dopo la prima riunione.

Domande frequenti

Sono un'azienda che usa un software di selezione: sono automaticamente ad alto rischio?

Non automaticamente. Conta come usi il software. Se l'uso include la selezione o la valutazione di candidati, rientra in un'area che il regolamento considera sensibile e va verificato con attenzione. Se lo strumento si limita a organizzare documenti o a inviare comunicazioni, il quadro cambia. Fai la classificazione sull'uso concreto e registra la motivazione.

Basta la supervisione umana formale?

No. La supervisione deve essere reale: una persona competente, con il tempo e l'autorità per verificare ed eventualmente fermare il sistema. Se la persona approva ogni proposta senza poterla discutere, la supervisione è solo di facciata. Documenta chi supervisiona, con quale formazione e con quale procedura di intervento.

Devo conservare i log del sistema?

In genere sì: ti viene chiesto di conservare i log che il sistema genera, per il periodo previsto dalle regole applicabili e dal tuo contesto. La durata precisa va verificata con il consulente. Coordina la conservazione con le regole sulla protezione dei dati, perché i log possono contenere dati personali e vanno trattati di conseguenza.

Il fornitore deve dirmi come funziona il sistema?

Deve fornire informazioni sufficienti per usarlo correttamente, come istruzioni, limiti e dati necessari. Non è detto che debba rivelare ogni dettaglio tecnico interno. Per il tuo lavoro ti servono informazioni operative, per iscritto. Se la risposta è vaga, chiedila più precisa prima di usare il sistema con persone reali.

Cosa succede se il sistema viene aggiornato dal fornitore?

Un aggiornamento può cambiare funzioni, limiti e rischi. Chiedi al fornitore una descrizione delle modifiche e valuta se la classificazione o il piano di supervisione vanno rivisti. Non dare per scontato che un aggiornamento sia neutro, soprattutto se modifica il modo in cui il sistema valuta le persone.

Da quando sono in vigore questi obblighi?

Le disposizioni si applicano in fasi e possono essere modificate da interventi successivi. Non è corretto fissare un piano su una data letta in un riassunto. Verifica il testo ufficiale aggiornato e il calendario con il consulente prima di assumere impegni interni, e pianifica di conseguenza.

Basta affidarsi al fornitore per essere in regola?

No. Il fornitore ha obblighi sul prodotto che sviluppa, ma l'uso nella tua organizzazione è responsabilità tua. Il contratto aiuta a distribuire informazioni e responsabilità, ma non elimina la necessità di supervisione, controlli e documentazione interna. Conserva per iscritto le risposte del fornitore e le decisioni interne, perché sono la prova che hai governato il sistema.

Nota sul contenuto

Guida informativa di carattere generale. Norme e requisiti tecnici cambiano nel tempo: verifica sempre le fonti ufficiali e valuta il tuo caso specifico con un consulente tecnico o legale qualificato.

CONTATTACI

Parla con il nostro team.

Mostriamo come Altovar si integra nella tua infrastruttura. Nessun impegno, nessun sales pitch. Solo una conversazione tecnica.

PRENOTA UNA DEMO →