Wie Bias in KI-Systeme gelangt

Die Grundformel

Bias in → Bias out. KI lernt aus Daten. Wenn Daten verzerrt sind, werden Ergebnisse verzerrt. Ohne böse Absicht. Ohne Bewusstsein. In großem Maßstab.

Die drei Haupttypen

Typ 1 — Datenbias

Trainingsdaten spiegeln die Welt wie sie war, nicht wie sie sein sollte. Beispiel Amazon: Zehn Jahre historische Einstellungsdaten aus einer männlich dominierten Branche. Das Modell lernt: männliche Kandidaten werden bevorzugt. Lebensläufe mit dem Wort „Frauen" werden abgewertet. Ergebnis: Systemic bias ohne Programmierungsabsicht. Erkennungszeichen: Eine Gruppe taucht in den Trainingsdaten seltener oder negativer auf.

Typ 2 — Proxy-Bias

Das Modell nutzt indirekte Variablen als Proxy für geschützte Merkmale. Beispiel Kreditscoring: Postleitzahl korreliert mit Einkommensniveau → korreliert mit Herkunft → korreliert mit Ethnizität. Das Modell diskriminiert nach Ethnizität, ohne die Variable direkt zu nutzen. Erkennungszeichen: Eine Variable „sollte" eigentlich neutral sein, produziert aber systematisch ungleiche Ergebnisse.

Typ 3 — Feedback-Schleife

Der Output der KI wird zum neuen Input — und verstärkt bestehende Muster. Beispiel Predictive Policing: KI sagt mehr Kriminalität in Stadtteil A voraus → mehr Polizei dort → mehr Verhaftungen dort → neue Daten bestätigen die Vorhersage → KI wird sicherer in ihrer Einschätzung. Die Verstärkungsschleife dreht sich.

Warum Bias so schwer zu erkennen ist

Grund	Erklärung
Keine Absicht	Bias kommt aus Daten, nicht aus Code
Technische Korrektheit	Das Modell ist im statistischen Sinne „richtig"
Kein sichtbares Signal	Unterschiede werden nicht ausgegeben, nur reflektiert
Komplexität	Bei 100+ Variablen sind Zusammenhänge nicht intuitiv

Bias erkennen — und richtig handeln

Die wichtigste Methode: Ergebnisverteilung analysieren

Kein Machine-Learning-Wissen erforderlich. Nur eine Frage:

„Gibt es systematische Unterschiede in den Ergebnissen zwischen vergleichbaren Gruppen?"

Praktisch:

1. Ergebnisse des KI-Systems exportieren
2. Nach Gruppen aufteilen (Geschlecht, Alter, Herkunft, Postleitzahl)
3. Quoten vergleichen: Ablehnungsquoten, Approval-Raten, Scores

Wenn Unterschiede sichtbar sind, die nicht durch legitime fachliche Faktoren erklärbar sind: Bias-Verdacht.

Warnsignale — diese Muster sollten Sie aufhorchen lassen

Warnsignal	Mögliche Ursache
Systematisch schlechtere Scores einer Gruppe	Datenbias oder Proxy-Bias
Ergebnisse verbessern sich für eine Gruppe nie	Feedback-Schleife
System „kennt" Dinge die es nicht direkt gelernt haben sollte	Proxy-Variable
Anbieter kann keine Erklärung für Muster liefern	Fehlende Transparenz
Quoten weichen stark vom Bevölkerungsdurchschnitt ab	Struktureller Bias

Der richtige Ablauf bei Bias-Verdacht

1. SOFORT: System aus dem kritischen Prozess nehmen
   (nicht: beobachten, nicht: auf Patch warten)

2. DOKUMENTIEREN: Was wurde beobachtet? Seit wann? Welche Gruppen betroffen?

3. ANALYSIEREN: Root Cause — Trainingsdaten? Proxy-Variable? Feedback-Schleife?

4. ENTSCHEIDEN: Neutraining, Modell-Anpassung oder System-Austausch?

5. TESTEN: Bias-Test mit strukturierten Testfällen vor Reaktivierung

6. DOKUMENTIEREN: Maßnahmen, Ergebnisse, Verantwortliche

Was das Gesetz verlangt

Grundlage	Anforderung
EU AI Act Art. 10	Trainingsdaten müssen repräsentativ, relevant und fehlerfrei sein — Hochrisiko-Pflicht
EU AI Act Art. 9	Risikomanagementsystem muss Bias als Risikokategorie einschließen
AGG	Diskriminierungsverbot gilt auch für algorithmische Entscheidungen
ISO 42001 A.5.4	Fairness als explizite Kontrollmaßnahme

Fazit: Bias-Prüfung ist keine Kür. Sie ist rechtlich verpflichtend — für Hochrisiko-Systeme ab August 2026.

Praxisfall: Das Recruiting-Tool

Situation: Nach 6 Monaten fällt auf, dass ein KI-gestütztes Recruiting-System Bewerber aus bestimmten Postleitzahlen systematisch schlechter bewertet. Postleitzahl ist kein offizielles Auswahlkriterium. Was ist hier passiert? Proxy-Bias: Postleitzahl → Schulen → sozioökonomischer Status → Herkunft. Das Modell diskriminiert indirekt, ohne es „zu wissen". Richtiges Vorgehen:

• Tool sofort pausieren — nicht erst nach Analyse
• Alle seit Einsatz getroffenen Entscheidungen überprüfen lassen
• Root Cause Analyse: Welche Variable wirkt als Proxy?
• Neutraining ohne Postleitzahl und korrelierende Features
• Vor Reaktivierung: strukturierter Bias-Test mit Testdatensatz

Falsches Vorgehen: „Wir entfernen Postleitzahl aus den Eingabedaten." Das löst das Symptom. Korrelierende Features (Schulname, Straßenname, Vereinszugehörigkeit) transportieren denselben Proxy weiter.