NIST AI RMF — Gestion des risques pour l'IA
1. Quelle est la tâche principale de GOVERN dans le NIST AI RMF ?
GOVERN est la base : sans cadre organisationnel, MAP/MEASURE/MANAGE sont inefficaces.
2. Une entreprise demande : 'Quels sont les risques liés à l'IA de notre nouveau système de recommandation ?' Quelle fonction adresse cela directement ?
MAP identifie et contextualise les risques — qui est concerné, que peut-il mal tourner ?
3. Un système d'IA a une précision de 96 %, mais désavantage systématiquement les candidats de certaines régions. Que cela montre-t-il ?
MEASURE exige une analyse multicouche — des métriques d'équité entre les groupes, et pas seulement une précision agrégée.
4. Que signifie 'Data Drift' ?
Dérive des données : la réalité change, le modèle reste le même — par exemple, de nouveaux segments de clientèle ou des conditions de marché modifiées.
5. Qu'est-ce que le Human-in-the-Loop (HITL) dans le contexte de MANAGE ?
HITL = Humain en tant qu'instance de contrôle pour les décisions aux conséquences importantes — l'une des mesures de GESTION les plus importantes.
6. Pourquoi MANAGE n'est-il pas un point final mais un cycle ?
Les enseignements tirés de MANAGE sont réintégrés dans MAP et MEASURE — le cycle est le principe fondamental du RMF.
7. Comment le NIST AI RMF se compare-t-il au EU AI Act ?
Parfaite complémentarité : EU AI Act = exigences légales, NIST RMF = méthodologie de mise en œuvre opérationnelle.
8. Quel article du EU AI Act exige un système de gestion des risques pour les IA à haut risque ?
Art. 9 exige pour les systèmes d'IA à haut risque un système de gestion des risques documenté — NIST AI RMF est une approche reconnue.
9. Une équipe de projet IA demande : 'Qui est responsable si notre système IA commet une erreur ?' Quelle fonction doit clarifier cela ?
Les responsabilités sont une question de GOUVERNANCE — partie du cadre organisationnel.
10. Une compagnie d'assurance souhaite utiliser l'IA pour la classification des risques. Que devrait-on analyser en premier selon le MAP ?
MAP commence par le contexte et les parties prenantes — qui est concerné, quels dommages pourraient survenir ? Ensuite seulement la technique.