NIST AI RMF — Gestione del rischio per l'AI
1. Qual è il compito principale di GOVERN nel NIST AI RMF?
GOVERN è la base: senza un quadro organizzativo, MAP/MEASURE/MANAGE sono inefficaci.
2. Un'azienda chiede: 'Quali rischi AI presenta il nostro nuovo sistema di raccomandazione?' Quale funzione affronta direttamente questo?
MAP identifica e contestualizza i rischi — chi è coinvolto, cosa può andare storto?
3. Un sistema AI ha un'accuratezza del 96%, ma svantaggia sistematicamente i candidati provenienti da determinate regioni. Cosa dimostra questo?
MEASURE richiede un'analisi multilivello — metriche di equità tra gruppi, non solo accuratezza aggregata.
4. Cosa significa 'Data Drift'?
Deriva dei dati: la realtà cambia, il modello rimane invariato — ad esempio, nuovi gruppi di clienti o condizioni di mercato modificate.
5. Cos'è Human-in-the-Loop (HITL) nel contesto MANAGE?
HITL = Essere umano come istanza di controllo nelle decisioni con conseguenze significative — una delle misure di GESTIONE più importanti.
6. Perché MANAGE non è un endpoint ma un ciclo?
Le conoscenze acquisite da MANAGE confluiscono nuovamente in MAP e MEASURE — il ciclo è il principio fondamentale del RMF.
7. Come si rapporta il NIST AI RMF all'EU AI Act?
Perfetta integrazione: EU AI Act = requisiti legali, NIST RMF = metodologia di attuazione operativa.
8. Quale articolo del EU AI Act richiede un sistema di gestione del rischio AI per AI ad alto rischio?
Art. 9 richiede per l'AI ad alto rischio un sistema di gestione del rischio documentato — NIST AI RMF è un approccio riconosciuto.
9. Un team di progetto AI chiede: 'Chi è responsabile se il nostro sistema AI commette un errore?' Quale funzione deve chiarire questo?
Le responsabilità sono una questione di GOVERN — parte del quadro organizzativo.
10. Una compagnia assicurativa vuole utilizzare l'AI per la classificazione del rischio. Cosa dovrebbe essere analizzato per primo secondo il MAP?
MAP inizia con il contesto e gli stakeholder — chi è coinvolto, quali danni potrebbero verificarsi? Solo successivamente la tecnologia.