Zarządzanie AI — Czym jest i dlaczego ma znaczenie
1. System rekrutacyjny odrzuca kandydatkę. Pyta, dlaczego. System odpowiada: 'Wynik opiera się na złożonych wzorcach.' Czego tu brakuje?
Przejrzystość oznacza: decyzje muszą być wytłumaczalne.
2. Co łączy przypadki Amazon, COMPAS i dostawcę kart kredytowych?
Brak złej woli — tylko brak weryfikacji i odpowiedzialności.
3. Która zasada zapewnia, że zawsze istnieje człowiek odpowiedzialny za decyzję AI?
Odpowiedzialność = Verantwortlichkeit. AI nie może być odpowiedzialna — ludzie muszą być.
4. Model sztucznej inteligencji do udzielania kredytów nigdy nie było wyraźnie trenowane pod kątem dyskryminacji — jednak systematycznie pokazuje gorsze wyniki dla jednej grupy. Która zasada jest naruszona?
Sprawiedliwość oznacza: aktywnie sprawdzać obecność uprzedzeń, a nie tylko mieć nadzieję, że ich nie ma.
5. Co oznacza 'minimum danych dla celu'?
Minimalizacja danych to zasada GDPR: zbierać tylko minimum.
6. Otrzymujesz automatyczną odmowę na aplikację. Jakie prawo przysługuje Ci zgodnie z GDPR Art. 22?
GDPR Art. 22: Automatyczne decyzje o znaczącym wpływie muszą być zaskarżalne.
7. Jesteś menedżerem HR i oceniasz narzędzie AI do wstępnej selekcji kandydatów. Jakie pytania musisz zadać przed zakupem? (Możliwe kilka odpowiedzi) 2 pts
Kwestie zarządzania: wyjaśnialność, pochodzenie danych, odpowiedzialność. Szybkość nie jest kryterium zarządzania.
8. Jaka jest podstawowa różnica między organizacją z zarządzaniem AI a bez niego?
Nie chodzi o to, czy coś pójdzie nie tak — lecz o to, czy można to rozpoznać i zareagować.
9. Które stwierdzenie dotyczące zarządzania AI jest prawidłowe?
Zarządzanie umożliwia odpowiedzialne działanie — nie mniej AI, lecz lepsze AI.