Governança de IA — O que é e por que é importante
1. Um sistema de candidatura rejeita uma candidata. Ela pergunta por quê. O sistema responde 'O resultado é baseado em padrões complexos.' O que está faltando aqui?
Transparência significa: Decisões devem ser explicáveis.
2. O que os casos Amazon, COMPAS e o fornecedor de cartões de crédito têm em comum?
Nenhuma má intenção — apenas falta de verificação e responsabilidade.
3. Qual princípio garante que sempre há um ser humano responsável por uma decisão de IA?
Responsabilidade = Verantwortlichkeit. AI não pode ser responsável — as pessoas devem ser.
4. Um modelo de IA para concessão de crédito nunca foi explicitamente treinado para discriminação — mas mostra sistematicamente resultados piores para um grupo. Qual princípio está sendo violado?
Justiça significa: verificar ativamente a presença de viés, não apenas esperar que não exista.
5. O que significa 'Mínimo de dados para o propósito'?
Minimização de dados é um princípio do GDPR: coletar apenas o mínimo necessário.
6. Você recebe uma recusa automática a uma candidatura. Qual é o seu direito de acordo com o GDPR Art. 22?
GDPR Art. 22: Decisões automáticas com efeito significativo devem ser passíveis de contestação.
7. Você é gerente de RH e está avaliando uma ferramenta de IA para pré-seleção de candidatos. Quais perguntas você deve fazer antes da compra? (Várias possíveis) 2 pts
Questões de governança: explicabilidade, origem dos dados, responsabilidade. Velocidade não é um critério de governança.
8. Qual é a diferença fundamental entre uma organização com e sem Governança de AI?
Não se trata de saber se algo dará errado — mas sim se é possível reconhecer e reagir.
9. Qual afirmação sobre a governança de AI é correta?
Governança permite ações responsáveis — não menos IA, mas uma IA melhor.