Gobernanza de la IA — Qué es y por qué importa
1. Un sistema de selección de personal rechaza a una candidata. Ella pregunta por qué. El sistema responde 'El resultado se basa en patrones complejos.' ¿Qué falta aquí?
La transparencia significa: Las decisiones deben ser explicables.
2. ¿Qué tienen en común los casos de Amazon, COMPAS y el proveedor de tarjetas de crédito?
Ninguna mala intención — solo falta de revisión y responsabilidad.
3. ¿Qué principio asegura que siempre haya una persona responsable de una decisión de IA?
Responsabilidad = Verantwortlichkeit. La IA no puede ser responsable — los humanos deben serlo.
4. Un modelo de IA para la concesión de créditos nunca fue entrenado explícitamente para la discriminación, pero muestra sistemáticamente peores resultados para un grupo. ¿Qué principio se está violando?
La equidad significa: verificar activamente la existencia de sesgos, no solo esperar que no existan.
5. ¿Qué significa 'mínimo de datos para el propósito'?
La minimización de datos es un principio del GDPR: solo recoger lo mínimo.
6. Recibes una respuesta automática de rechazo a una solicitud de empleo. ¿Qué derecho tienes según el GDPR Art. 22?
GDPR Art. 22: Las decisiones automáticas con un impacto significativo deben ser impugnables.
7. Eres gerente de recursos humanos y estás evaluando una herramienta de IA para la preselección de candidatos. ¿Qué preguntas debes hacer antes de la compra? (Varias posibles) 2 pts
Preguntas de gobernanza: explicabilidad, procedencia de los datos, responsabilidad. La velocidad no es un criterio de gobernanza.
8. ¿Cuál es la diferencia fundamental entre una organización con y sin gobernanza de AI?
No se trata de si algo sale mal, sino de si se puede reconocer y reaccionar.
9. ¿Cuál afirmación sobre la gobernanza de la IA es correcta?
El gobierno permite una actuación responsable: no menos IA, sino mejor IA.