Gouvernance de l'IA — Ce que c'est et pourquoi c'est important
1. Un système de candidature rejette une candidate. Elle demande pourquoi. Le système répond 'Le résultat est basé sur des modèles complexes.' Que manque-t-il ici ?
La transparence signifie : les décisions doivent être explicables.
2. Qu'ont en commun les cas Amazon, COMPAS et le fournisseur de cartes de crédit ?
Aucune mauvaise intention — seulement un manque de vérification et de responsabilité.
3. Quel principe garantit qu'il y a toujours un humain responsable d'une décision prise par une IA ?
Responsabilité = Verantwortlichkeit. L'IA ne peut pas être responsable — les humains doivent l'être.
4. Un modèle d'IA pour l'octroi de crédits n'a jamais été explicitement entraîné à la discrimination — mais montre systématiquement de moins bons résultats pour un groupe. Quel principe est violé ?
L'équité signifie : vérifier activement les biais, ne pas seulement espérer qu'il n'y en a pas.
5. Que signifie 'minimum de données pour l'objectif'?
La minimisation des données est un principe du GDPR : ne collecter que le minimum.
6. Vous recevez un refus automatique à une candidature. Quel droit avez-vous selon le GDPR Art. 22 ?
GDPR Art. 22 : Les décisions automatisées ayant un effet significatif doivent être contestables.
7. Vous êtes responsable des ressources humaines et évaluez un outil d'IA pour le tri préliminaire des candidats. Quelles questions devez-vous poser avant l'achat ? (Plusieurs possibles) 2 pts
Questions de gouvernance : explicabilité, provenance des données, responsabilité. La vitesse n'est pas un critère de gouvernance.
8. Quelle est la différence fondamentale entre une organisation avec et sans gouvernance de l'IA ?
Il ne s'agit pas de savoir si quelque chose tourne mal — mais de savoir si l'on peut le reconnaître et réagir.
9. Quelle affirmation concernant la gouvernance de l'IA est correcte ?
La gouvernance permet une action responsable — pas moins d'IA, mais une meilleure IA.