learn.iio.spacePartner-Bereich › AI Governance & Compliance

AI Governance & Compliance

AI Literacy ist Pflicht — seit 2. Februar 2025 (EU AI Act Art. 4), nicht erst ab August 2026. Die behördliche Durchsetzung startet ab August 2026, aber die rechtliche Pflicht gilt jetzt. Dieser Kurs macht dich und deine Organisation absicherbar.
✦ Lernziel
Du kennst die wichtigsten Regulierungen (EU AI Act, ISO 42001, GDPR), erkennst AI Bias in deinem Arbeitsumfeld und weißt was du als IIO-Operator konkret tun musst um compliant zu sein.
⏱ ~240 Min Assessment starten →
▶ Erklärvideo
Bevor wir in Regulierungen einsteigen: Janelle Shane zeigt in 12 Minuten humorvoll aber treffend warum unkontrollierte AI zu unerwarteten Problemen führt. Das setzt den Rahmen.
The danger of AI is weirder than you thinkURL prüfen
📺 TED ⏱ 12 Min 🌐 EN · 🇩🇪 DE-Untertitel
Humor trifft Präzision: Shane zeigt warum unkontrollierte KI zu völlig unerwarteten Ergebnissen führt. Perfekter Kurs-Einstieg — motiviert ohne zu erschrecken.
▶ Video ansehen
▶ Erklärvideo
Vox zeigt echte Fälle von AI Bias (COMPAS, Amazon Recruiting). Motiviert den Fairness-Teil des Kurses — macht das Thema greifbar.
Coded Bias — Documentary TrailerURL prüfen
📺 Independent ⏱ 3 Min 🌐 EN · Untertitel verfügbar
Trailer zum Dokumentarfilm über AI Bias in Gesichtserkennung und Justiz. 3 Minuten — motiviert das Thema ernst zu nehmen.
▶ Video ansehen
▶ Erklärvideo
IBM gibt in 8 Minuten den besten Überblick über AI Governance als Konzept — bevor wir den ISO 42001 Standard im Detail anschauen.
Introduction to Generative AIURL prüfen
📺 Google Cloud ⏱ 22 Min 🌐 EN · Untertitel verfügbar
Google Cloud erklärt Generative AI — Was ist es, wie funktioniert es, welche Anwendungsfälle gibt es? Guter technischer Kontext für Governance-Überlegungen.
▶ Video ansehen
📖 Lerntext
⏱ ~60 Min lesen

Modul 1: ISO/IEC 42001 — AI Management System

Kurs: ai-governance-compliance | Modul: 1 von 4 | Dauer: ~60 min

Was ist ISO 42001?

ISO/IEC 42001:2023 ist der weltweit erste internationale Standard für ein AI Management System (AIMS).

Er definiert Anforderungen für:

  • Aufbau einer AI Governance
  • Implementierung von AI-Risikomanagement
  • Menschliche Aufsicht über AI-Systeme
  • Nachweisbare Kompetenz aller Beteiligten
  • Kontinuierliche Verbesserung

Wichtig: ISO 42001 ist kein Produkt-Standard (kein TÜV für AI-Modelle), sondern ein Organisations-Standard — wie eine Organisation AI verantwortungsvoll einsetzt und steuert.

Die 7 Hauptklauseln

Klausel 4 — Kontext der Organisation

Was muss die Organisation verstehen?
  • Interne und externe Faktoren die AI-Nutzung beeinflussen
  • Wer ist von AI-Systemen betroffen?
  • Welche gesetzlichen Anforderungen gelten?
IIO: layer-premises-catalog.yaml (organisatorischer Kontext) + orchestration/workspace.yaml (Systemumfang)

Klausel 5 — Leadership

Was muss das Management sicherstellen?
  • AI-Policy dokumentiert und kommuniziert
  • Rollen und Verantwortlichkeiten klar zugewiesen
  • Ressourcen für AI-Governance bereitgestellt
IIO: AGENTS.md (AI Policy) + team-roster.yaml (Rollen) + HITL-Gate-System (Ressourcen-Allocation)

Klausel 6 — Planung

Wie werden Risiken und Chancen adressiert?
  • AI-Risikoabschätzung durchführen
  • Messbaren AI-Objectives festlegen
  • Behandlungspläne für identifizierte Risiken
IIO: drift-report.yaml (Risiken) + CONTEXT-KNOWLEDGE-GAP-REGISTER.yaml (Behandlungspläne)

Klausel 7 — Support ← Dieser Kurs erfüllt diese Klausel

Welche Unterstützung ist erforderlich?
  • 7.2 Kompetenz: Alle Beteiligten müssen nachweisbar kompetent sein
  • 7.3 Awareness: Alle kennen AI Policy und ihre Auswirkungen
  • 7.4 Kommunikation: Intern und extern kommunizieren
  • 7.5 Dokumentation: Alle Anforderungen dokumentiert
IIO: iio/base/training/ + TRAINING-CADENCE-POLICY.md + training-status.yaml

Klausel 8 — Betrieb

Wie werden AI-Systeme operativ gesteuert?
  • Operational Controls implementiert
  • Risikobewertungen durchgeführt
  • AI System Impact Assessments erstellt
  • Datenmanagement sichergestellt
IIO: run-release-gate-chain.sh + AI-BIAS-FAIRNESS-FRAMEWORK.md + PII-DATA-RETENTION-POLICY.md

Klausel 9 — Performance-Evaluation

Wie wird die Wirksamkeit gemessen?
  • Kontinuierliches Monitoring
  • Interne Audits
  • Management-Reviews
IIO: AI-METRICS-DASHBOARD-SPEC.md + CONTINUOUS-MONITORING-FRAMEWORK.md + run-full-stack-audit.sh

Klausel 10 — Verbesserung

Wie wird kontinuierlich verbessert?
  • Nichtkonformitäten identifizieren und beheben
  • Lernschleifen implementieren
IIO: LEARNING-LOOP-SEED-NODE.md + drift-report.yaml + Session-Closeout-Prozess

Annex A — Kontrollen (ausgewählt)

ISO 42001 enthält in Annex A spezifische Kontrollmaßnahmen. Die wichtigsten für IIO-Operatoren:

KontrolleAnforderungIIO-Umsetzung
A.2.2AI Policy dokumentiertAGENTS.md + AGENT-EXECUTION-CONTRACT.md
A.4.2AI RisikobewertungPremises-Katalog + Audit-Chain
A.5.1Menschliche AufsichtHITL-Gate-System
A.5.2AI AccountabilityEvidence-Chain pro Operation
A.5.3TransparenzManual-Portal (veröffentlichte Artefakte)
A.5.4FairnessAI-BIAS-FAIRNESS-FRAMEWORK.md
A.6.1Datenqualitätvalidate-classification-completeness.sh
A.8.1Incident Managementdrift-report.yaml + Eskalationsprozess

IIO-Compliance-Status: ~92%

IIO wurde unabhängig von ISO 42001 entwickelt, erfüllt aber die meisten Anforderungen durch seine Architektur:

StärkeWarum ISO-42001-konform
Evidence-nativeKlausel 7.5 Dokumentation ist Nebenprodukt des Betriebs
Fail-closedKlausel 8 Operational Controls sind architektonisch erzwungen
HITL-GatesKlausel 5.1 Leadership + A.5.1 Human Oversight technisch durchgesetzt
Premises-KatalogKlausel 6 Risk Management systematisch
Seed→Node-ProjektionKonsistente Governance über alle Tenants (Klausel 4.4)

Was ISO 42001 NICHT ist

  • Kein Zertifikat für AI-Modelle (das gibt es noch nicht)
  • Keine Garantie für fehlerfreie AI
  • Kein Ersatz für den EU AI Act (ergänzend, nicht ersetzend)
  • Keine Pflicht (aber starker Enterprise-Sales-Enabler)

Deine Pflichten als IIO-Operator (ISO 42001)

PflichtKonkret
Kompetenz nachweisen (7.2)Diesen Kurs absolvieren + Gate-Approval
Policy kennen (7.3)AGENTS.md lesen bei jedem Session-Start
Risiken dokumentieren (6.1)Drifts in drift-report.yaml eintragen
Incidents melden (A.8.1)Sofort eskalieren, nicht ignorieren
Evidence erzeugen (7.5)Session-Closeout immer ausführen

Wissenscheck — Modul 1

  1. Was ist der Unterschied zwischen ISO 42001 und einem AI-Modell-Zertifikat?
  2. Welche Klausel betrifft direkt die Schulungspflicht?
  3. Wie erfüllt IIO die Anforderung "Human Oversight" (A.5.1)?
  4. Was tust du konkret um ISO 42001 Klausel 6 (Risikoplanung) zu unterstützen?
  5. Warum ist IIO zu ~92% ISO-42001-konform ohne extra Aufwand?
✓ Zwischen-Check

Kurzer Check — kein Druck, nur zum Festigen.

1. ISO 42001 ist ein Standard für...?
2. Welche ISO-42001-Klausel wird durch DIESEN Kurs erfüllt?
3. Wie erfüllt IIO die Anforderung 'Human Oversight' (ISO 42001 A.5.1)?
🏢 Praxisbeispiel
Situation

Ein Enterprise-Kunde fragt Intelego: 'Ist euer IIO-System ISO 42001 konform? Wir brauchen das für unser Beschaffungsverfahren.' Du musst die Antwort vorbereiten.

❓ Wie beantwortest du die Frage — und wo findest du die Belege?
1 / 1 Assessment starten →
📚 Primärquellen dieses Kurses
OCC
Verifizierte Public-Domain-Quellen — occ.space
⚖️
EU AI Act Primär 🇪🇺 EU
EU AI Act — alle Pflichten für Provider und Deployer
EU Artificial Intelligence Act (Full Text)
Quelle →
⚖️
EU AI Act Art. 6 Primär 🇪🇺 EU
EU AI Act Art. 6 — Hochrisiko-Klassifikation
EU AI Act — Article 6: Classification Rules for High-Risk AI
Quelle →
⚖️
GDPR Primär 🇪🇺 EU
DSGVO — Datenschutz im AI-Kontext
General Data Protection Regulation (GDPR)
Quelle →
📐
NIST AI RMF Primär 🇺🇸 US
NIST AI RMF — Referenz-Framework für ISO 42001
NIST AI Risk Management Framework 1.0
Quelle →
Weitere Quellen (4)
📐
NIST GenAI RMF 🇺🇸 US
NIST GenAI RMF — generative KI Compliance
NIST AI 600-1: Artificial Intelligence Risk Management Framework — Generative AI
Quelle →
🌐
UNESCO AI Ethics 🌍 International
UNESCO AI Ethics — Bias und Fairness
UNESCO Recommendation on the Ethics of AI
Quelle →
📋
EC Trustworthy AI Guidelines
European Commission: Ethics Guidelines for Trustworthy AI
Quelle →
🤝
CoE AI Convention 🌍 International
Europarat KI-Konvention
Council of Europe — Framework Convention on AI (CETS 225)
Quelle →
🎓
Kurs abgeschlossen!
Assessment starten →