1. Il principio: chi interagisce deve sapere
La trasparenza è uno dei pilastri dell'AI Act. Chi interagisce direttamente con un sistema di AI deve essere informato del fatto che sta parlando con una macchina, a meno che questo sia evidente dal contesto. L'obiettivo è semplice: la persona deve poter decidere quanto fidarsi di ciò che legge o ascolta, e sapere con chi o con cosa sta avendo a che fare.
Le regole non riguardano solo i chatbot. Riguardano anche i contenuti generati o alterati con l'AI, come immagini, audio e video, e alcuni sistemi che riconoscono emozioni o categorie di persone. Per un'azienda il lavoro inizia dalla mappa dei punti di contatto con il pubblico, non da una lettura astratta del testo normativo. Questo significa che le regole valgono anche quando nessuno le ha pensate per il proprio canale.
2. Chatbot e assistenti vocali
Un chatbot sul sito, un assistente dentro l'app o un risponditore telefonico con voce sintetica rientrano in questa categoria. L'utente deve sapere, all'inizio o in modo chiaro durante la conversazione, che si tratta di un sistema automatico. Un messaggio nascosto in fondo alla pagina non basta: l'informazione deve arrivare nel punto in cui la persona inizia a interagire, altrimenti non è davvero trasparente.
Verifica anche che il chatbot non si presenti come un operatore umano, neanche per cortesia o per abitudine di tono. Se è previsto il passaggio a una persona, indica quando e come avviene. Chiedi al fornitore la configurazione del messaggio di apertura e delle risposte predefinite, perché spesso è lì che l'informazione si perde con le modifiche successive. Se il bot viene usato per raccogliere dati, ricorda che il GDPR si applica in parallelo.
3. Contenuti generati e falsi realistici
I contenuti sintetici, cioè immagini, audio e video generati o alterati dall'AI, devono essere riconoscibili come tali quando somigliano a persone, luoghi o eventi reali. Un'immagine di un cliente soddisfatto mai esistito, o una voce clonata che parla per conto di un dirigente, sono esempi di contenuti che richiedono un'informazione chiara al pubblico, perché altrimenti possono indurre in errore. Anche una grafica ben fatta può trarre in inganno se il soggetto appare reale.
Per i testi pubblicati per informare il pubblico su temi di interesse generale, il regolamento prevede un'eccezione quando il contenuto è rivisto da una persona che ne assume la responsabilità editoriale. Non dare per scontato che basti questo: se il testo viene pubblicato senza una revisione reale, l'eccezione non regge. Definisci chi revisiona e come si documenta la revisione. Conserva la prova della revisione per ogni testo di questo tipo.
4. Dove si nasconde il rischio in azienda
Molti canali usano contenuti generati senza che nessuno se ne accorga, perché lo strumento è integrato in un software che già si usa. Questa lista serve come punto di partenza per l'inventario dei punti di contatto con il pubblico. Il modo più pratico è partire da ciò che il pubblico vede davvero, cioè pagine, messaggi, post e chiamate, e risalire poi agli strumenti che li producono. Così si evita di fermarsi alla lista dei software.
Per ciascun canale chiediti se il pubblico sa che c'è un'AI coinvolta e se il contenuto potrebbe essere scambiato per reale. Se la risposta è sì, serve un'informazione o un'etichetta. Se la risposta è no, annota la motivazione, perché sarà utile quando il canale cambierà. Riguarda la stessa domanda anche per i canali gestiti da fornitori esterni, come agenzie e piattaforme.
- Sito: chatbot, moduli con assistenza automatica, immagini generate nelle pagine.
- Email e messaggi commerciali scritti o tradotti con uno strumento di AI.
- Social e campagne: video, voci, immagini realistiche di persone.
- Assistenza clienti: risposte automatiche e centralini con voci sintetiche.
- Documenti pubblici: report, comunicati e pagine informative con testo generato.
5. Scrivere una regola interna semplice
Non serve un manuale. Serve una regola scritta che dica quattro cose: quando un contenuto va segnalato, con quale formula, chi approva la pubblicazione e dove si conserva la prova dell'approvazione. Usa una formula breve e identica su tutti i canali, per evitare che ogni reparto inventi la propria e che il pubblico riceva messaggi diversi. Una regola scritta è anche la base per la formazione dei nuovi colleghi.
Per i chatbot la regola deve indicare il messaggio di apertura, la possibilità di parlare con una persona e il tipo di informazioni che il sistema non fornisce. Per i contenuti generati la regola deve distinguere le immagini realistiche da quelle chiaramente grafiche o stilizzate, perché l'obbligo di segnalazione riguarda soprattutto le prime, quelle che possono sembrare vere. Verifica che la regola sia rispettata anche dagli strumenti che aggiornano le risposte automaticamente.
6. Errori comuni
Il primo errore è pensare che basti una riga nell'informativa sulla privacy. La trasparenza sull'AI non coincide con l'informativa sul trattamento dei dati, anche se i due testi possono sovrapporsi in alcuni punti. Il secondo è mettere l'etichetta solo su alcuni canali e dimenticare social e email, dove i contenuti si moltiplicano più in fretta e sfuggono alla revisione. In concreto, controlla quale testo informativo accompagna il servizio, dove compare e chi lo ha approvato.
Il terzo è non aggiornare la comunicazione quando il chatbot cambia funzione. Un assistente pensato per prenotare appuntamenti che inizia a rispondere su questioni contrattuali merita un nuovo messaggio e una nuova valutazione. Il quarto è pensare che l'etichetta risolva tutto: resta il dovere di non ingannare le persone con contenuti falsi o fuorvianti, anche se sono segnalati. Ogni modifica va rivalutata con la stessa procedura usata per la prima versione del servizio.
7. Come iniziare
Questa settimana fai un elenco dei canali pubblici in cui l'azienda usa AI o contenuti generati. Per ciascun canale annota il tipo di contenuto, chi lo approva e se una persona può sapere che è prodotto con l'AI. Non serve che la lista sia completa al primo tentativo: serve che esista e che qualcuno ne sia responsabile. Scegli un responsabile per l'elenco e una scadenza per la sua revisione, altrimenti resterà un foglio dimenticato.
Poi scegli il canale con più contatti con il pubblico, di solito il sito o il servizio clienti, e rivedi il messaggio di apertura e l'etichetta. Quando hai una versione funzionante, estendila agli altri canali. Porta le scelte al consulente per confermare che il quadro sia coerente con il tuo settore. Così il controllo si estende al resto dei canali senza ripartire da zero.
Domande frequenti
Devo dichiarare che un testo è stato scritto con l'AI?
Dipende da come viene pubblicato. Per i testi destinati a informare il pubblico su temi di interesse generale, il regolamento prevede un'indicazione, salvo che una persona abbia revisionato il contenuto e ne porti la responsabilità editoriale. Per un'email commerciale o un documento interno la regola è diversa. Definisci una politica chiara e fanne verificare i casi di confine.
Un'immagine di repertorio generata con l'AI va segnalata?
Se l'immagine è realistica e può far credere che rappresenti persone, luoghi o eventi reali, va segnalata come contenuto sintetico. Se è chiaramente grafica o stilizzata, il quadro è diverso. Il rischio maggiore è l'immagine fotorealistica di una persona che non esiste, presentata come un cliente o un dipendente.
Il chatbot deve dire il nome del fornitore dell'AI?
Non necessariamente. Le regole di trasparenza riguardano il fatto che l'utente interagisce con un sistema automatico. Il nome del fornitore non è il punto centrale e non è detto che debba comparire. Verifica con il consulente cosa serve per la tua informativa, e mantieni comunque una risposta chiara su chi gestisce il servizio.
La trasparenza vale anche per le chiamate con voce sintetica?
Sì, se la persona interagisce con un sistema che parla come un essere umano. Il principio è lo stesso: chi ascolta deve sapere che si tratta di un sistema automatico. Un messaggio registrato di servizio che non prende decisioni ha un'analisi diversa da un sistema che dialoga con l'utente e ne raccoglie le richieste.
Chi risponde se un contenuto generato inganna qualcuno?
La responsabilità va ricostruita caso per caso, ma chi pubblica il contenuto ha un ruolo centrale. Il fornitore dello strumento può avere obblighi sui propri sistemi. Per proteggerti, conserva le prove di revisione, le regole interne e le versioni pubblicate. Sono le prime cose che chiederà un consulente se la questione si presenta.