Valutazione dei rischi dell'IA: modello e metodo per l'AI Act
La valutazione dei rischi dell'IA analizza, per ogni sistema, cosa può andare storto, per chi e con quale probabilità e gravità, e decide come ridurre i rischi prima dell'uso. Per l'AI Act serve a classificare il sistema e a dimostrare sorveglianza e controlli; in Italia si collega anche a DPIA, valutazione dei rischi sul lavoro e modello 231.
In sintesi
- Una buona valutazione dei rischi parte dal caso d'uso, non dalla tecnologia: lo stesso modello linguistico può essere a rischio minimo in un reparto e ad alto rischio in un altro.
- Il modello deve coprire tre livelli: classificazione secondo l'AI Act, rischi per l'organizzazione, impatti sulle persone.
- Una matrice probabilità per gravità da 1 a 5 rende i risultati confrontabili tra sistemi e reparti.
- Per i fornitori di sistemi ad alto rischio l'articolo 9 dell'AI Act chiede un vero sistema di gestione dei rischi; per tutti gli altri la valutazione è il modo per dimostrare scelte ragionate.
- In Italia l'IA che incide sull'organizzazione del lavoro entra anche nel documento di valutazione dei rischi (d.lgs. 81/2008), come previsto dal d.lgs. 179/2026.
Perché serve una valutazione dei rischi dell'IA
L'AI Act è costruito sul rischio. Prima di sapere quali obblighi avete, dovete sapere in quale categoria ricade ogni sistema: vietato, ad alto rischio, soggetto a trasparenza o a rischio minimo. Ma la classificazione giuridica è solo l'inizio. Un chatbot di assistenza clienti a rischio minimo secondo il regolamento può comunque diffondere informazioni sbagliate sui prezzi, esporre dati personali o danneggiare la reputazione. Un modello di previsione della domanda non tocca diritti fondamentali, ma un errore può costare caro in magazzino.
La valutazione dei rischi tiene insieme le due prospettive. Per i fornitori di sistemi ad alto rischio è un obbligo esplicito: l'articolo 9 del regolamento (UE) 2024/1689 richiede un sistema di gestione dei rischi lungo tutto il ciclo di vita. Per i deployer è la base della sorveglianza umana richiesta dall'articolo 26 e, per alcuni, della valutazione d'impatto sui diritti fondamentali (FRIA). Per tutti, è il documento che mostra a un cliente, a un revisore o all'ACN che le scelte sono state ponderate. Il quadro dei livelli di rischio è nella nostra guida all'AI Act.
Potete costruire il modello da soli seguendo lo schema qui sotto. Oppure potete ottenere un modello di valutazione dei rischi AI scritto sulle vostre risposte: l'assessment gratuito di Opsio lo genera insieme ad altri tre documenti di governance in circa 40 minuti di domande.
Avete bisogno di supporto esperto per valutazione dei rischi dell'ia?
I nostri architetti cloud vi supportano con valutazione dei rischi dell'ia — dalla strategia all'implementazione. Prenotate una consulenza gratuita di 30 minuti senza impegno.
Il modello in dieci sezioni
Ogni valutazione riguarda un sistema e un caso d'uso. Se lo stesso strumento è usato in modi diversi, per esempio Copilot negli uffici e in HR, fate due valutazioni.
1. Identificazione del sistema
Nome, versione, fornitore, responsabile interno, reparto, data della valutazione, collegamento alla voce dell'inventario. Senza inventario la valutazione non ha un punto di partenza: il metodo per costruirlo è in shadow AI e inventario dei sistemi di IA.
2. Descrizione del caso d'uso
Cosa fa il sistema, in quale processo, chi usa l'output e cosa ne fa. Indicate se l'output è informativo, di supporto a una decisione o se decide da solo. È la sezione che più spesso viene scritta male: «assistente AI per il marketing» non basta; «genera bozze di post per i social che un redattore rivede prima della pubblicazione» sì.
3. Ruolo e classificazione secondo l'AI Act
Siete fornitore o deployer? Il sistema rientra in una pratica vietata dell'articolo 5? In un caso dell'allegato III (lavoro, credito, istruzione, servizi essenziali…) o dell'allegato I? Negli obblighi dell'articolo 50? Motivate la risposta: se un fornitore esclude l'alto rischio per un sistema dell'allegato III, l'articolo 6, paragrafo 4, gli chiede di documentare la valutazione. Per il ruolo, vedete deployer e fornitore nell'AI Act.
4. Dati
Quali dati entrano (input, documenti di contesto, dati di addestramento se li fornite voi), da dove arrivano, se includono dati personali o categorie particolari, dove vengono trattati e conservati, se il fornitore li usa per addestrare i propri modelli.
5. Persone interessate
Chi subisce gli effetti dell'output: clienti, dipendenti, candidati, cittadini, minori, persone vulnerabili. Più le persone sono esposte e meno possono contestare la decisione, più alta sarà la gravità.
6. Identificazione dei rischi
Elencate i rischi per categoria. Una lista di partenza:
- Accuratezza: risposte inventate, errori sistematici, degrado nel tempo.
- Equità: discriminazioni dirette o indirette su genere, età, origine, disabilità.
- Privacy: dati personali esposti, trattamenti senza base giuridica, trasferimenti extra UE.
- Sicurezza: prompt injection, fuga di dati, accessi eccessivi di agenti e plugin.
- Trasparenza: persone che non sanno di interagire con un'IA o di essere valutate da un'IA.
- Dipendenza e controllo: eccessiva fiducia nell'output, impossibilità di spiegare una decisione.
- Fornitore: lock-in, cambiamenti non comunicati del modello, interruzioni del servizio.
- Legale e reputazionale: violazioni di diritto d'autore, contenuti diffamatori o ingannevoli, deepfake.
- Salute e sicurezza sul lavoro: ritmi imposti da un algoritmo, stress, controllo della prestazione.
7. Valutazione: probabilità per gravità
Per ogni rischio assegnate probabilità e gravità da 1 a 5. Il prodotto dà il punteggio di rischio inerente, prima dei controlli.
| Valore | Probabilità | Gravità |
|---|---|---|
| 1 | Rara: non prevista nell'arco di un anno | Trascurabile: nessun effetto su persone o attività |
| 2 | Improbabile: possibile ma non attesa | Minore: disagio limitato, facilmente corretto |
| 3 | Possibile: può accadere qualche volta all'anno | Moderata: effetti su singole persone o su un processo |
| 4 | Probabile: accadrà con una certa frequenza | Grave: danni a diritti, finanze o reputazione; segnalazione all'autorità |
| 5 | Quasi certa | Critica: danni diffusi o irreversibili, possibili violazioni di divieti |
Fissate soglie chiare: per esempio, da 1 a 6 rischio basso (accettato con controlli standard), da 8 a 12 medio (accettato con controlli aggiuntivi e responsabile nominato), da 15 a 25 alto (serve l'approvazione della direzione o lo stop).
8. Controlli e rischio residuo
Per ogni rischio indicate i controlli esistenti e quelli da introdurre: revisione umana, limiti sui dati in ingresso, filtri, log, test periodici, clausole contrattuali, formazione. Poi ricalcolate il punteggio: è il rischio residuo, quello che la direzione accetta.
9. Sorveglianza umana e monitoraggio
Chi controlla il sistema, con quale formazione e autorità, quando deve intervenire o fermarlo, quali indicatori si monitorano (tasso di errori, reclami, deriva delle prestazioni) e con quale frequenza.
10. Decisione e revisione
Esito (approvato, approvato con condizioni, non approvato), firma del responsabile, data della prossima revisione e condizioni che la anticipano: nuovo fornitore, modifica del modello, estensione a nuovi utenti, incidente.
Righe di esempio
| Sistema e uso | Rischio | P × G | Controlli | Residuo |
|---|---|---|---|---|
| Chatbot sul sito di un e-commerce per domande su ordini e resi | Risposte errate su rimborsi e garanzie | 4 × 3 = 12 | Base di conoscenza controllata, risposte su politiche commerciali solo da testi approvati, passaggio all'operatore, avviso che si parla con un'IA | 2 × 3 = 6 |
| Copilot per gli uffici amministrativi | Dati riservati esposti a utenti senza permessi tramite ricerca aziendale | 3 × 4 = 12 | Revisione dei permessi su SharePoint prima del rilascio, etichette di riservatezza, formazione | 2 × 4 = 8 |
| Software di preselezione dei CV | Esclusione sistematica di candidate dopo una maternità | 3 × 5 = 15 | Test di equità del fornitore e interni, revisione umana di ogni esclusione, informativa ai candidati, registro delle decisioni | 2 × 5 = 10 |
| Agente che risponde alle email dei fornitori | Prompt injection che induce l'agente a modificare coordinate bancarie | 3 × 5 = 15 | Nessun permesso di modifica su anagrafiche e pagamenti, approvazione umana per ogni azione esterna, log | 1 × 5 = 5 |
Come si collega alle altre valutazioni italiane
In un'azienda italiana la valutazione dei rischi dell'IA non vive da sola. Conviene collegarla esplicitamente a tre documenti esistenti, invece di duplicarli:
- DPIA (articolo 35 GDPR): se il sistema tratta dati personali con rischio elevato, la parte privacy della valutazione confluisce nella DPIA, che resta di competenza del titolare e, se serve, del Garante. Vedete anche la nostra pagina sulla conformità GDPR.
- Documento di valutazione dei rischi (d.lgs. 81/2008): l'articolo 42 del d.lgs. 179/2026 prevede che l'IA che incide su organizzazione del lavoro, ritmi o processi decisionali rilevanti per la sicurezza sia valutata nel DVR, e che i lavoratori ricevano informazione e formazione sui rischi specifici.
- Modello organizzativo 231: dopo il d.lgs. 160/2026 alcuni reati legati all'IA, come l'omessa adozione di misure di sicurezza su sistemi ad alto rischio e la diffusione illecita di deepfake, possono far scattare la responsabilità dell'ente. La mappatura dei rischi 231 deve tenerne conto.
Chi deve farla e ogni quanto
La valutazione è di chi è responsabile del caso d'uso, con il supporto di IT e sicurezza, DPO, HR se riguarda il personale e legale se riguarda clienti o contratti. Va fatta prima della messa in uso, ripetuta almeno una volta l'anno e anticipata a ogni cambiamento significativo. Un'organizzazione con venti strumenti non deve fare venti analisi di dieci pagine: per gli usi a rischio minimo basta una versione breve, mentre l'analisi completa si riserva ai casi ad alto rischio o con punteggio elevato. Il quadro complessivo delle lacune emerge meglio con una gap analysis per l'AI Act.
Domande frequenti
Cos'è la valutazione dei rischi dell'IA?
È un'analisi documentata dei possibili danni legati a un sistema di IA in un caso d'uso preciso: per l'organizzazione, per le persone coinvolte e rispetto agli obblighi di legge. Identifica i rischi, ne stima probabilità e gravità, definisce i controlli e registra il rischio residuo accettato dalla direzione.
L'AI Act obbliga a fare una valutazione dei rischi?
Per i fornitori di sistemi ad alto rischio sì: l'articolo 9 chiede un sistema di gestione dei rischi per tutto il ciclo di vita. Alcuni deployer devono fare la FRIA dell'articolo 27. Per tutti gli altri non c'è un obbligo con questo nome, ma la valutazione serve a classificare i sistemi e a dimostrare scelte ragionate.
Che differenza c'è tra valutazione dei rischi IA e DPIA?
La DPIA riguarda solo i rischi per i diritti e le libertà legati al trattamento dei dati personali ed è prevista dal GDPR. La valutazione dei rischi dell'IA è più ampia: comprende accuratezza, sicurezza, equità, fornitori, conseguenze operative e reputazionali. Le due possono condividere la descrizione del sistema e rimandarsi a vicenda.
Quale metodo di punteggio usare?
Una matrice probabilità per gravità da 1 a 5 è semplice e riconosciuta da revisori e direzione. Conta più la coerenza del metodo: stesse definizioni dei valori, stesse soglie di accettazione, stesso livello di approvazione per tutti i sistemi. Se avete già un metodo per il rischio operativo o per la ISO 27001, adattate quello.
Ogni quanto va aggiornata?
Almeno una volta l'anno e ogni volta che cambia qualcosa di rilevante: nuovo fornitore o modello, nuovi dati, estensione a nuovi utenti o reparti, incidente o reclamo significativo. Per i sistemi ad alto rischio il monitoraggio deve essere continuo e documentato.
Ricevete il modello già compilato
Lo schema sopra è un buon punto di partenza da adattare. Se volete un modello già impostato sui vostri strumenti e reparti, rispondete alle domande e fatelo scrivere per la vostra organizzazione, in Word e gratis: l'assessment gratuito di Opsio per la governance AI e i modelli di policy richiede circa 40 minuti in italiano e, all'invio, scrive il modello di valutazione dei rischi AI insieme al framework di governance, all'AI policy sull'uso accettabile e alla checklist per i fornitori AI. I documenti sono consegnati in inglese come file modificabili e restano vostri.
Questo articolo è un'informazione generale e non costituisce consulenza legale. Verificate il testo consolidato del regolamento (UE) 2024/1689, come modificato dal regolamento (UE) 2026/1744, e la normativa italiana vigente. Situazione aggiornata a ottobre 2026.
Sull'autore
Group COO & CISO
Fredrik è il COO e CISO del gruppo presso Opsio. Si concentra sull'eccellenza operativa, sulla governance e sulla sicurezza delle informazioni, lavorando a stretto contatto con i team di delivery e di leadership per allineare tecnologia, rischio e risultati di business in ambienti IT complessi. Guida la pratica di sicurezza di Opsio, inclusi i servizi SOC, i test di penetrazione e i framework di conformità.
Standard editoriali: Questo articolo è stato scritto da un professionista certificato e revisionato dal nostro team di ingegneria. Lo aggiorniamo quando cambiano la tecnologia o la normativa di cui tratta; le date qui sopra indicano l'ultimo aggiornamento. Opsio è editorialmente indipendente: consigliamo soluzioni in base al merito tecnico, non a rapporti commerciali.