Gouvernance de l'IA — Ce que c'est et pourquoi c'est important

Qu'est-ce que la gouvernance de l'IA ?

Le problème en 60 secondes

Imaginez : Une entreprise utilise un système d'IA pour l'octroi de crédits. Le système refuse une cliente. Elle demande pourquoi. La réponse : « Le système a décidé ainsi. »

Aucune personne n'est responsable. Aucune explication possible. Aucun recours prévu.

C'est précisément le problème que la gouvernance de l'IA résout.

Trois cas pratiques

Amazon — L'angle mort dans le recrutement

Amazon a développé un système d'IA pour la présélection des candidatures. Entraîné sur dix ans de données historiques de recrutement dans un secteur dominé par les hommes, le modèle a appris : préférer les candidats masculins. Les CV contenant le mot « femmes » — par exemple, « Présidente du club d'échecs féminin » — étaient systématiquement dévalorisés. Personne ne l'avait programmé. Les données l'ont fait. Amazon a désactivé le système.

COMPAS — Algorithmes devant le tribunal

Dans les tribunaux américains, le système COMPAS calcule les probabilités de récidive pour les délinquants — comme aide à la décision pour les juges. Des études montrent : les accusés noirs sont classés deux fois plus souvent comme « haut risque » que les blancs — pour des délits comparables. L'algorithme a reproduit l'inégalité sociale comme une vérité mathématique.

Carte de crédit — Discrimination invisible

Un fournisseur américain de cartes de crédit attribuait automatiquement des limites plus basses aux femmes — même si elles avaient des revenus plus élevés et une meilleure solvabilité que leurs homologues masculins. Ce n'est qu'une plainte qui a rendu le schéma visible.

Ce qui relie ces cas

Le schéma : Aucune prise de conscience → Aucun responsable → Aucune correction.

Gouvernance de l'IA — la définition

La gouvernance de l'IA désigne les règles, processus et responsabilités, qui garantissent que les systèmes d'IA fonctionnent de manière sûre, équitable, transparente et traçable.

Plus simplement : Qui est responsable si une IA fait une erreur ? Et : Comment s'assurer que nous le remarquons ?

L'analogie du frein

« La gouvernance de l'IA ne ralentit pas l'IA — tout comme les freins ne ralentissent pas une voiture. Les freins permettent de conduire plus vite et plus sûrement. »

Sans gouvernance : les projets d'IA échouent en raison de la perte de confiance, des risques juridiques, des dommages à la réputation. Avec gouvernance : les projets d'IA se développent, car les parties prenantes ont confiance.

Suite : Les 5 principes →

Les 5 Principes d'une IA Responsable

OCDE, Commission Européenne, NIST, ISO 42001 — différents cadres, un consensus : Ces cinq principes s'appliquent partout.

1 · Transparence

Question : Pouvez-vous expliquer comment cette décision a été prise ?

Les systèmes d'IA doivent être explicables — non pas pour les ingénieurs, mais pour les personnes concernées. Celui qui obtient un crédit doit comprendre pourquoi. Celui qui est refusé doit pouvoir contester.

EU AI Act Art. 13 : Les systèmes à haut risque doivent fournir aux opérateurs des informations suffisantes pour comprendre et surveiller les résultats.

2 · Équité

Question : Tous les groupes sont-ils traités de manière égale ?

L'équité ne signifie pas l'égalité des résultats — mais l'absence de discrimination systématique en raison de caractéristiques protégées (sexe, origine, âge, religion, handicap).

Important : L'équité ne se produit pas d'elle-même. Elle doit être activement vérifiée. « Nous n'avons pas intégré de biais » ne protège pas contre les biais dans les données d'entraînement.

ISO 42001 Annexe A.5.4 : L'équité comme obligation de contrôle explicite.

3 · Responsabilité

Question : Qui est responsable de cette décision ?

L'IA ne peut pas être responsable. Il y a toujours un humain responsable — pour la conception, l'utilisation, la surveillance, les conséquences.

La responsabilité signifie :

• Responsables désignés pour chaque système d'IA
• Processus décisionnels documentés
• Voies d'escalade claires en cas de problème

EU AI Act Art. 14 : La supervision humaine des systèmes à haut risque est obligatoire.

4 · Sécurité & Robustesse

Question : Le système fonctionne-t-il aussi dans des conditions inattendues ?

Les systèmes d'IA doivent fonctionner de manière fiable — même lorsque les entrées varient, les données sont modifiées ou des situations imprévues surviennent.

Exemple pratique : Un système de reconnaissance d'images médicales identifie correctement les tumeurs — jusqu'à ce qu'une image légèrement modifiée (identique pour les humains) conduise à un diagnostic totalement erroné. De telles attaques adversariales sont prouvées dans la pratique.

5 · Protection des Données

Question : Seules les données réellement nécessaires sont-elles traitées ?

Les systèmes d'IA traitent souvent de grandes quantités de données. La protection des données exige : principe de minimisation, bases légales claires, transparence envers les personnes concernées, droit à l'effacement.

GDPR Art. 5 : Minimisation des données, limitation de la finalité et limitation du stockage s'appliquent également aux données d'entraînement et aux applications d'IA.

Résumé

Retour : Qu'est-ce que la Gouvernance de l'IA ? | Suivant : Gouvernance au quotidien →

Gouvernance de l'IA en pratique

Trois perspectives — une responsabilité

Selon le rôle, différentes questions se posent. La responsabilité est partagée.

En tant que personne concernée

Si un système d'IA prend une décision vous concernant :

Vous avez le droit de demander :

• Une IA a-t-elle été utilisée ici ? (EU AI Act Art. 50 — Obligation de divulgation)
• Comment la décision a-t-elle été prise ? (Obligation de transparence)
• Un humain peut-il vérifier cela ? (GDPR Art. 22 — pas de décision entièrement automatisée sans possibilité de vérification)

Comment exercer vos droits :

1. Demandez par écrit à l'entreprise : « Je demande des informations conformément au GDPR Art. 15 et une vérification humaine conformément à l'Art. 22."
2. Délai de réponse : 30 jours
3. En cas de refus : contacter l'autorité de protection des données (en Allemagne : BfDI ou autorité régionale compétente)

En tant qu'employé ou professionnel

Avant que votre entreprise n'utilise un système d'IA — cinq questions :

Si même une seule réponse est « Non » : cela doit être clarifié avant que le système ne soit mis en service.

En tant que dirigeant ou acheteur

Trois questions à poser à chaque fournisseur d'IA :

1. « Comment expliquez-vous une erreur de votre système ? » Si le fournisseur ne peut pas répondre : pas d'achat.

2. « Quelles données avez-vous utilisées pour l'entraînement — et êtes-vous autorisé à les utiliser ? » L'absence de bases légales pour les données d'entraînement signifie un risque juridique pour vous en tant qu'opérateur.

3. « Qui est responsable si le système discrimine quelqu'un ? » La réponse « Cela incombe au client » n'est pas acceptable.

Cas pratique : logiciel RH avec IA

Situation : Votre département RH achète un outil qui présélectionne les candidatures.

Le résultat : La gouvernance n'empêche pas les erreurs de se produire. Elle garantit qu'elles soient reconnues — et qu'on puisse agir.

La question essentielle

Avant qu'un système d'IA ne soit mis en service, posez-vous une question :

« Pourrions-nous assumer la responsabilité de ce système — vis-à-vis des clients, des autorités, du public ? »

Si oui : Documentez-le. Si non : Corrigez d'abord ce qui manque.

Retour : Les 5 principes | Commencer l'évaluation →