Compreendendo o Viés e a Justiça da IA
1. Por que o viés de dados surge mesmo sem intenção maliciosa?
A Amazon não teve a intenção de discriminar ninguém — os dados históricos já continham desigualdade.
2. O que é um ciclo de feedback no contexto de viés de IA?
Policiamento preditivo: Previsão → mais polícia → mais prisões → previsão se confirma.
3. Uma ferramenta de recrutamento avalia sistematicamente os candidatos de determinados códigos postais de forma inferior. Qual é o primeiro passo? 2 pts
Quando houver viés ativo: primeiro pare, depois investigue. Não continue a discriminar enquanto aguarda uma solução.
4. Qual é o método simples que ajuda a reconhecer o viés sem ser um especialista em AI?
Nenhuma expertise necessária — apenas: existem diferenças sistemáticas entre grupos?
5. O que exige o Art. 10 do EU AI Act para sistemas de alto risco?
Art. 10 torna a verificação de viés e a gestão de dados obrigatórias — não uma recomendação.
6. Quais são os sinais de alerta para um possível viés? (Vários possíveis) 2 pts
Diferenças sistemáticas, variáveis proxy e falta de transparência são sinais de alerta.