Un modello linguistico può scrivere un’e-mail impeccabile e poi inventare un riferimento giuridico inesistente, tutto nella stessa conversazione. Misurare l’affidabilità dell’intelligenza artificiale significa andare oltre la sola questione della veridicità delle risposte e analizzare quali aspetti della progettazione di questi sistemi producano risultati talvolta utili, talvolta fuorvianti.
Affidabilità dell’IA nei test e in condizioni reali: un divario sottovalutato
La maggior parte degli articoli sui limiti dell’IA si concentra sugli errori evidenti: una data sbagliata, una cifra inventata, una fonte inesistente. Il quadro di analisi del NIST (AI 600-1, profilo dedicato all’IA generativa) evidenzia un problema più strutturale: le prestazioni misurate in laboratorio non consentono di prevedere il comportamento dopo la distribuzione.
Un modello può ottenere un punteggio elevato su un set di dati di test e poi fornire risultati peggiori di fronte a richieste formulate in modo diverso o in un contesto non contemplato dai dati di addestramento. Per questo motivo, il NIST raccomanda di monitorare costantemente i sistemi in funzione, anziché limitarsi a una convalida iniziale.
Questa distinzione ha conseguenze concrete. Un’azienda che convalida uno strumento di IA su un campione controllato e poi lo distribuisce su larga scala senza predisporre un meccanismo di monitoraggio si espone a un deterioramento silenzioso dei risultati. Per comprendere meglio i motivi per cui l’IA non è affidabile, occorre guardare oltre la semplice accuratezza in un singolo momento.
Allucinazioni, pregiudizi e privacy: panoramica dei rischi individuati dal NIST
Il profilo AI 600-1 del NIST non si limita agli errori fattuali. Distingue diverse categorie di rischi che incidono sull’affidabilità di un sistema di IA generativa, anche quando la risposta sembra corretta a prima vista.
| Tipo di rischio | Descrizione | Conseguenze per l’utente |
|---|---|---|
| Fabbricazione di informazioni (confabulazione) | Il modello genera fatti, citazioni o riferimenti inesistenti | Decisioni basate su dati falsi |
| Pregiudizi ereditati dai dati di addestramento | I risultati riproducono gli squilibri presenti nel corpus | Discriminazione nelle assunzioni, nel credito e nella sanità |
| Violazione della privacy | Il modello può riproporre dati personali assimilati durante l’addestramento | Violazione della privacy all’insaputa dell’utente |
| Impossibilità di risalire alla provenienza | Non esiste un metodo affidabile per verificare l’origine di un’informazione generata | Impossibilità di sottoporre un risultato a verifica o contestarlo |
Una risposta plausibile può essere problematica anche in assenza di errori fattuali evidenti, se sfrutta dati personali o non consente di risalire alla fonte. Questo aspetto è ancora poco trattato nelle guide divulgative sui limiti dell’IA.
Regolamento europeo sull’IA: l’affidabilità è un obbligo, non un consiglio
Il regolamento europeo sull’IA (AI Act) è entrato in vigore il 1 agosto 2024. La sua applicazione è graduale: gli obblighi di alfabetizzazione in materia di IA e alcuni divieti si applicano dal 2 febbraio 2025, mentre le norme sui modelli di IA per finalità generali entreranno in vigore nell’agosto 2025.
Questo approccio basato sui livelli di rischio cambia le regole del gioco. Uno strumento di IA utilizzato per selezionare le candidature o assegnare un punteggio di credito non è soggetto allo stesso regime di un chatbot per il servizio clienti. Gli obblighi di trasparenza, documentazione e controllo umano aumentano in base al livello di rischio classificato.
Cosa impone concretamente il quadro normativo
- I sistemi classificati ad alto rischio (sanità, selezione del personale, giustizia) devono essere sottoposti a una valutazione di conformità prima di essere immessi sul mercato, che includa la documentazione dei dati di addestramento e delle misure adottate per contrastare i pregiudizi
- I fornitori di modelli di IA per finalità generali dovranno rispettare obblighi di trasparenza sui dati utilizzati e sui limiti noti del sistema
- Gli utenti professionali di sistemi ad alto rischio sono tenuti a predisporre una supervisione umana e a segnalare i malfunzionamenti gravi
La normativa considera quindi l’affidabilità un problema di governance e responsabilità, non soltanto una questione tecnica legata alle prestazioni del modello.
Adozione in azienda: il divario tra disponibilità dello strumento e uso consapevole
In Francia, nel 2024 solo il 10% delle imprese con almeno 10 dipendenti utilizzava almeno una tecnologia di IA, contro il 6% dell’anno precedente. Questa rapida crescita nasconde un problema: disporre di uno strumento non significa saperlo usare in modo affidabile.
La prova individuale da parte di un dipendente curioso non costituisce un processo. Senza un protocollo per verificare i risultati, senza formazione sui limiti del modello e senza regole chiare sui dati che si possono o non si possono inserire in uno strumento di terze parti, l’adozione resta fragile. Il rischio, quindi, non è più soltanto quello di ricevere una risposta errata, ma di riporre una fiducia mal calibrata in risultati non verificati.
Verifica dei risultati: cosa spesso manca
Il NIST raccomanda di verificare sistematicamente le fonti e le citazioni prodotte da un modello generativo. Nella pratica, questa verifica è raramente integrata nei processi aziendali. Chi utilizza un assistente IA per redigere una sintesi o preparare una decisione non sempre ha l’abitudine, né il tempo, di controllare ogni affermazione.
Il problema si aggrava nei settori in cui gli errori possono avere conseguenze gravi: sanità, diritto e finanza. In questi ambiti, la supervisione umana non è un lusso, ma una condizione necessaria per operare.
L’affidabilità dell’intelligenza artificiale non si riduce a un tasso di errore su un benchmark. Dipende dalla qualità dei dati di addestramento, dal contesto di distribuzione, dal livello di supervisione umana e dal quadro normativo che ne disciplina l’uso. Il regolamento europeo, imponendo obblighi proporzionati al rischio, formalizza quanto confermato dall’esperienza sul campo: un modello efficace in condizioni controllate può diventare fonte di decisioni errate in assenza di una governance adeguata.
