Comprendere il Bias e l'Equità dell'AI
1. Perché si verifica il bias dei dati anche senza cattive intenzioni?
Amazon non ha voluto discriminare nessuno — i dati storici contenevano già disuguaglianze.
2. Cos'è un ciclo di feedback nel contesto del bias dell'AI?
Polizia predittiva: Previsione → più polizia → più arresti → previsione confermata.
3. Uno strumento di reclutamento valuta sistematicamente i candidati provenienti da determinati codici postali in modo meno favorevole. Qual è il primo passo? 2 pts
Con bias attivo: prima fermarsi, poi indagare. Non continuare a discriminare mentre si attende una soluzione.
4. Quale metodo semplice aiuta a riconoscere il bias senza essere un esperto di AI?
Nessuna competenza necessaria — solo: ci sono differenze sistematiche tra i gruppi?
5. Cosa richiede l'Art. 10 del EU AI Act per i sistemi ad alto rischio?
Art. 10 rende obbligatoria la verifica dei bias e la gestione dei dati — non una raccomandazione.
6. Quali sono i segnali di allarme per un possibile bias? (Sono possibili più risposte) 2 pts
Differenze sistematiche, variabili proxy e mancanza di trasparenza sono segnali di allarme.