EU AI Act — Co musisz wiedzieć
EU AI Act (Regulation 2024/1689) obowiązuje od sierpnia 2024 roku. Obowiązek AI Literacy (Art. 4) jest w mocy od 2 lutego 2025 roku — teraz, a nie dopiero od sierpnia 2026 roku. Od sierpnia 2026 roku obowiązują przepisy dotyczące wysokiego ryzyka oraz nadzór urzędowy. Brak wiedzy nie jest ochroną: możliwe są grzywny do 35 milionów euro lub 7% światowego rocznego obrotu. Rzetelna wiedza chroni Twoją firmę.
Znają Państwo cztery klasy ryzyka w ramach EU AI Act, rozumieją, jakie obowiązki będą obowiązywać od 2025 i 2026 roku, oraz potrafią ocenić, czy system AI w Państwa organizacji podlega wymaganiom dla systemów wysokiego ryzyka.
Dlaczego potrzebujemy regulacji AI? — Janelle Shane (TED, 12 Min)
Perfekcyjne wprowadzenie: Janelle Shane pokazuje na rzeczywistych przykładach, dlaczego niekontrolowana AI prowadzi do nieoczekiwanych wyników — i dlaczego właśnie z tego powodu EU AI Act jest niezbędny.
Prawo i jego logika
~15 MinDer EU AI Act — Grundlagen
Das Wichtigste vorab
Regulation (EU) 2024/1689 — w mocy od 1 sierpnia 2024. Pierwsze kompleksowe prawo dotyczące AI na świecie. Obowiązuje każdego, kto stosuje AI w UE — niezależnie od tego, gdzie AI zostało opracowane.
Das Prinzip: Je riskanter, desto strenger
EU AI Act jest oparty na ryzyku. Nie każda AI jest równie niebezpieczna. Filtr antyspamowy różni się od systemu decydującego o zdolności kredytowej.
Nieakceptowalne ryzyko → ZAKAZANE
Wysokie ryzyko → Surowe obowiązki + zezwolenie
Ograniczone ryzyko → Obowiązek przejrzystości
Minimalne ryzyko → Prawie żadnych ograniczeń (większość AI)
Zeitplan — was gilt wann?
| Data | Regulacja |
|---|---|
| Sierpień 2024 | Wejście w życie ustawy |
| Luty 2025 | Obowiązują zakazane praktyki |
| Sierpień 2025 | Zasady dla podstawowych modeli AI (GPT, Claude itp.) |
| Luty 2025 | Obowiązek AI Literacy (Art. 4) + Zakazane praktyki (Art. 5) |
| Sierpień 2026 | Obowiązki wysokiego ryzyka + nadzór/egzekwowanie przez organy |
| Sierpień 2027 | Okresy przejściowe dla niektórych kategorii produktów |
Wer ist betroffen?
| Rola | Definicja | Przykład |
|---|---|---|
| Dostawca | Opracowuje AI i wprowadza ją na rynek | Startup AI, dostawca oprogramowania |
| Operator | Stosuje AI w swojej działalności | Twoje przedsiębiorstwo |
| Osoba dotknięta | Dotknięta decyzjami AI | Kandydat, kredytobiorca, pacjent |
Jako przedsiębiorstwo zazwyczaj jesteś operatorem — z konkretnymi obowiązkami.
Strafen
| Naruszenie | Maksymalna kara |
|---|---|
| Zakazane praktyki (Art. 5) | 35 mln EUR lub 7% rocznego obrotu |
| Wymagania wysokiego ryzyka | 15 mln EUR lub 3% rocznego obrotu |
| Fałszywe informacje | 7,5 mln EUR lub 1,5% rocznego obrotu |
Dalej: Klasy ryzyka w szczegółach →
Krótka kontrola: Ustawa
1. Dla kogo obowiązuje EU AI Act?
2. Od kiedy obowiązuje obowiązek AI Literacy (Art. 4 EU AI Act)?
Cztery klasy ryzyka
~15 MinCztery klasy ryzyka w szczegółach
Klasa 1 — Zakazane (od lutego 2025)
Osiem praktyk jest absolutnie zakazanych:
| Zakazana praktyka | Dlaczego |
|---|---|
| Manipulacja podprogowa | Narusza autonomię |
| Wykorzystywanie słabości | Grupy wymagające ochrony |
| Ocena społeczna przez organy | Naruszenie praw podstawowych |
| Predictive Policing (jednostki) | Zasada domniemania niewinności |
| Biometryczny nadzór masowy | Niewspółmierne |
| Rozpoznawanie emocji w pracy/szkole | Potencjał manipulacji |
| Biometryczna kategoryzacja (pochodzenie itp.) | Ryzyko dyskryminacji |
| Tworzenie bazy danych twarzy przez scraping | Ochrona danych |
Sprawdzenie praktyki: Czy Twoja firma planuje którąś z nich? → Natychmiast zatrzymać. Brak okresu przejściowego.
Klasa 2 — Wysokie ryzyko (całkowicie od sierpnia 2026)
AI w tych obszarach jest automatycznie uznawana za wysokiego ryzyka:
| Obszar | Typowe zastosowania |
|---|---|
| Zatrudnienie | Selekcja kandydatów, ocena wydajności, zwolnienia |
| Podstawowe usługi | Przyznawanie kredytów, świadczenia socjalne, ubezpieczenia |
| Edukacja | Decyzje o przyjęciu, ocena egzaminów |
| Infrastruktura krytyczna | Energia, woda, transport |
| Egzekwowanie prawa | Ocena ryzyka, analiza dowodów |
| Migracja | Decyzje wizowe, kontrola graniczna |
| Wymiar sprawiedliwości | Wsparcie orzecznictwa |
Co muszą zrobić operatorzy systemów wysokiego ryzyka:
- Wdrożyć system zarządzania ryzykiem
- Dokumentować praktyki zarządzania danymi
- Sporządzić dokumentację techniczną
- Aktywować automatyczne logowanie
- Zapewnić nadzór ludzki
- Zapewnić dokładność, odporność, cyberbezpieczeństwo
- Szkolenie pracowników ← ten kurs spełnia Art. 4
Klasa 3 — Ograniczone ryzyko (przejrzystość)
AI, która wchodzi w interakcję z ludźmi, musi się ujawniać.
Konkretne:
- Chatboty muszą się identyfikować jako AI
- Teksty/obrazy/wideo generowane przez AI muszą być oznaczone
- Deepfake'i muszą być oznaczone jako takie
Natychmiastowe działanie dla firm z chatbotami AI — te obowiązki już obowiązują.
Klasa 4 — Minimalne ryzyko
Filtry spamu, rekomendacje produktów, AI w grach wideo — w dużej mierze nieregulowane. Zalecane dobrowolne kodeksy postępowania, brak obowiązków prawnych.
Szybki test: Która klasa dotyczy Twojego systemu?
Pytanie 1: Czy zastosowanie podlega Annex III (obszary wysokiego ryzyka)?
→ TAK: Obowiązki wysokiego ryzyka od sierpnia 2026
→ NIE: Przejdź do pytania 2
Pytanie 2: Czy AI wchodzi w interakcję z ludźmi lub generuje widoczne treści?
→ TAK: Obowiązek przejrzystości (Klasa 3)
→ NIE: Minimalne ryzyko (Klasa 4)
Niepewny? → Skonsultuj się z prawnikiem. Koszty są niskie w porównaniu z karami.
Powrót: Prawo | Dalej: Co to dla Ciebie oznacza →
Przypadek praktyczny: Nowe narzędzie HR
Twoja firma kupuje narzędzie AI, które ocenia wydajność pracowników i daje rekomendacje dotyczące podwyżek wynagrodzeń. Dostawca mówi: "To tylko narzędzie wspomagające podejmowanie decyzji, nie prawdziwa AI."
Lösung anzeigen
Tak — i Wysokie Ryzyko (Annex III: Zatrudnienie).
"Wsparcie decyzyjne" nie jest przepustką bez ograniczeń.
Jeśli AI ma wpływ na decyzje dotyczące zatrudnienia — niezależnie od tego, jak jest przedstawiane — obowiązuje wysokie ryzyko.
Obowiązki: ocena ryzyka, dokumentacja, nadzór ludzki, szkolenie pracowników. Przed wdrożeniem, nie po.
Klasy ryzyka w skrócie
- Verboten: Social Scoring, Emotionserkennung Arbeit/Schule, Massenüberwachung
- Hochrisiko: Beschäftigung, Kredit, Bildung, Infrastruktur, Justiz
- Begrenztes Risiko: Chatbots müssen sich als KI zu erkennen geben
- Minimal: Spam-Filter, Empfehlungen — kaum Pflichten
Co to dla mnie oznacza
~10 MinCo oznacza EU AI Act dla Twojej firmy
Natychmiastowe działania — teraz, nie w 2026
Niektóre obowiązki już obowiązują:
| Obowiązek | Obowiązuje od | Dla kogo |
|---|---|---|
| Unikanie zakazanych praktyk | luty 2025 | Wszyscy |
| Obowiązek oznaczania chatbotów | sierpień 2026* | Operatorzy |
| Szkolenie pracowników (AI Literacy) | sierpień 2026 | Wszyscy operatorzy |
| Dokumentacja wysokiego ryzyka | sierpień 2026 | Operatorzy wysokiego ryzyka |
*technicznie od sierpnia 2026 w pełni, zalecane przygotowanie teraz
Twoje obowiązki jako operatora
Krok 1: Inwentaryzacja Jakie systemy AI stosuje Twoja firma? Wypełnij dla każdego systemu:
- Nazwa i cel systemu
- Dostawca
- Dotknięte grupy
- Klasa ryzyka (→ Szybki test Moduł 2)
Krok 2: Priorytetyzacja systemów wysokiego ryzyka Dla każdego systemu wysokiego ryzyka do sierpnia 2026:
- Wdrożenie systemu zarządzania ryzykiem
- Przegląd oceny skutków dla ochrony danych (DPIA)
- Dokumentacja nadzoru ludzkiego
- Szkolenie pracowników
Krok 3: Wykazanie AI Literacy Art. 4 zobowiązuje operatorów do zapewnienia, że pracownicy „posiadają wystarczające kompetencje AI". Ten kurs + ocena = Twój dowód.
Prawa osób, których dane dotyczą
Jeśli AI decyduje o Twoich klientach, pracownikach lub kandydatach:
| Prawo | Podstawa | Co mogą żądać osoby, których dane dotyczą |
|---|---|---|
| Przejrzystość | Art. 13 EU AI Act | Wyjaśnienie funkcji AI |
| Ludzka weryfikacja | DSGVO Art. 22 | Weryfikacja przez osobę |
| Dostęp do informacji | DSGVO Art. 15 | Jakie dane zostały przetworzone |
| Sprostowanie | DSGVO Art. 16 | Korekta błędnych danych |
Trzy pytania przy zakupie AI
Zanim Twoja firma kupi lub licencjonuje system AI:
- „Jak wyjaśnicie mi błędną decyzję?" — Brak modelu wyjaśniającego = brak zakupu.
- „Jakie dane treningowe zostały użyte i na jakiej podstawie prawnej?" — Brak podstawy prawnej obciąża Cię jako operatora.
- „Kto ponosi odpowiedzialność za dyskryminację przez Wasz system?" — „Klient" nie jest odpowiedzią.
Powrót: Klasy ryzyka | Rozpocznij ocenę →
Twoje systemy AI
Jakie systemy AI stosuje Twoje przedsiębiorstwo — i do której klasy ryzyka się zaliczają?
Pomyśl o: narzędziach rekrutacyjnych, chatbotach, systemach kredytowych/scoringowych, algorytmach rekomendacyjnych...
- HR-System mit KI-Unterstützung → wahrscheinlich Hochrisiko
- Kundenservice-Chatbot → begrenztes Risiko (Offenbarungspflicht)
- Produktempfehlungen im Shop → minimales Risiko
To zabierasz ze sobą
- Feb 2025: AI Literacy (Art. 4) + Verbote (Art. 5) gelten jetzt
- August 2026: Hochrisiko-Pflichten + behördliche Aufsicht starten
- Strafen: bis 35 Mio EUR oder 7% Umsatz
- Kernfrage: Fällt mein System unter Hochrisiko?
- Hochrisiko: erst prüfen, dann einsetzen
- Chatbots: müssen sich als KI zu erkennen geben