Il tuo chatbot deve dire di essere un'AI: cosa impone l'articolo 50

Cosa dice la norma

L'articolo 50(1) impone che i sistemi di AI destinati a interagire direttamente con le persone fisiche siano progettati e sviluppati in modo che le persone interessate siano informate del fatto di stare interagendo con un sistema di intelligenza artificiale — a meno che ciò non sia evidente dal punto di vista di una persona ragionevolmente informata, attenta e avveduta, tenuto conto delle circostanze e del contesto.

Due cose vanno notate. La prima: l'obbligo è di progettazione, non di avviso. Non basta aggiungere una riga nelle condizioni d'uso: l'informazione deve arrivare a chi sta interagendo, quando sta interagendo. La seconda: l'eccezione dell'"evidente" esiste, ma è una porta stretta.

L'eccezione dell'"è ovvio" — e perché non ci si può contare

Molti si aggrappano all'eccezione: "tutti capiscono che è un bot". Il problema è che l'eccezione va valutata dal punto di vista di una persona ragionevolmente informata e attenta, tenuto conto delle circostanze — non dal punto di vista di chi ha costruito il sistema.

E la direzione della tecnologia rema contro: più l'assistente è bravo, meno è evidente che sia una macchina. Un chatbot che risponde bene, con un nome proprio e un tono naturale, è esattamente il caso in cui l'eccezione non regge. Chi investe per rendere il proprio assistente più umano sta, nello stesso momento, restringendo la propria scappatoia.

Regola pratica: se il tuo assistente ha un nome, un avatar e un tono colloquiale, l'eccezione dell'"evidente" non è un'opzione. La disclosure serve.

L'errore più comune: "stai parlando con un'AI"

È la formula che si vede ovunque, ed è sbagliata nella maggior parte delle installazioni reali. Quasi tutti i sistemi seri sono ibridi: risponde l'AI, e quando serve subentra una persona (il cosiddetto takeover). In quel momento la frase "stai parlando con un'AI" diventa falsa — e una disclosure falsa è peggio di nessuna disclosure, perché è un'affermazione che l'impresa ha scritto e che non corrisponde al vero.

La formulazione corretta per un sistema ibrido dice che la conversazione può essere gestita da un assistente virtuale o da un operatore, e distingue poi, messaggio per messaggio, chi ha risposto. È un dettaglio che si scopre solo implementandolo.

Come si fa bene: quattro requisiti tecnici

• Disclosure all'inizio dell'interazione, visibile senza dover cercare — non nel footer, non nella privacy policy, non dietro un'icona.
• Distinzione per messaggio tra risposta generata dall'AI e risposta di un operatore umano. In un sistema ibrido è l'unico modo perché la disclosure iniziale resti vera per tutta la conversazione.
• Il sistema non può spacciarsi per umano. Se l'utente chiede "sei una persona?", la risposta deve essere onesta. Questo si ottiene con un vincolo nelle istruzioni di sistema, non con una speranza: le personas commerciali, se non vincolate, tendono a rispondere di sì per non rompere l'illusione.
• La disclosure non deve essere disattivabile da chi installa il sistema. Se il pannello di configurazione ha un interruttore "nascondi avviso AI", il fornitore ha appena costruito il pulsante che rende il proprio cliente inadempiente.

E i contenuti generati dall'AI?

È il paragrafo 2 dello stesso articolo, e riguarda i sistemi che generano testo, immagini, audio o video sintetici: i contenuti vanno marcati come generati artificialmente, in un formato leggibile da una macchina. Se pubblichi descrizioni prodotto o immagini generate dall'AI, ti riguarda.

Per i sistemi già presenti sul mercato al 2 agosto 2026 il termine di adeguamento su questo punto slitta al 2 dicembre 2026. È l'unico respiro previsto, e non riguarda l'obbligo di trasparenza sull'interazione.

Chi risponde: fornitore o utilizzatore

Il fornitore progetta il sistema perché la trasparenza sia possibile e attiva. Il deployer — l'impresa che mette il chatbot davanti ai propri clienti — la mantiene e non la aggira. La domanda giusta da fare al proprio fornitore non è "siete conformi?", ma tre domande precise: la disclosure è attiva di default e non disattivabile? le risposte AI sono distinguibili da quelle umane? cosa risponde il bot se gli chiedo se è una persona?

Se il fornitore non sa rispondere a queste tre domande, la risposta è no.