Zrozumienie stronniczości i sprawiedliwości AI
1. Dlaczego stronniczość danych powstaje nawet bez złych intencji?
Amazon nie chciał nikogo dyskryminować — dane historyczne już zawierały nierówności.
2. Czym jest pętla sprzężenia zwrotnego w kontekście uprzedzeń AI?
Predykcyjne działania policyjne: przewidywanie → więcej policji → więcej aresztowań → przewidywanie się potwierdza.
3. Narzędzie rekrutacyjne systematycznie ocenia kandydatów z określonych kodów pocztowych gorzej. Jaki jest pierwszy krok? 2 pts
W przypadku aktywnego uprzedzenia: najpierw zatrzymać, potem zbadać. Nie kontynuować dyskryminacji podczas oczekiwania na rozwiązanie.
4. Jakie proste metody pomagają rozpoznać bias bez bycia ekspertem AI?
Nie jest wymagana ekspertyza — tylko: czy istnieją systematyczne różnice między grupami?
5. Czego wymaga EU AI Act Art. 10 od systemów wysokiego ryzyka?
Art. 10 czyni testowanie uprzedzeń i zarządzanie danymi obowiązkiem — nie zaleceniem.
6. Jakie są sygnały ostrzegawcze dotyczące możliwego uprzedzenia? (Możliwe kilka) 2 pts
Systematyczne różnice, zmienne zastępcze i brak przejrzystości są sygnałami ostrzegawczymi.