NIST AI RMF — Gestión de riesgos para AI
1. ¿Cuál es la tarea principal de GOVERN en el NIST AI RMF?
GOVERN es la base: sin un marco organizativo, MAP/MEASURE/MANAGE son ineficaces.
2. Una empresa pregunta: '¿Qué riesgos de IA tiene nuestro nuevo sistema de recomendaciones?' ¿Qué función aborda esto directamente?
MAP identifica y contextualiza riesgos: ¿quién está afectado, qué puede salir mal?
3. Un sistema de IA tiene un 96% de precisión, pero discrimina sistemáticamente a los solicitantes de ciertas regiones. ¿Qué indica esto?
MEASURE requiere un análisis multinivel: métricas de equidad entre grupos, no solo precisión agregada.
4. ¿Qué significa 'Data Drift'?
Deriva de datos: la realidad cambia, el modelo permanece igual — por ejemplo, nuevos grupos de clientes o condiciones de mercado cambiantes.
5. ¿Qué es Human-in-the-Loop (HITL) en el contexto de MANAGE?
HITL = Humano como instancia de control en decisiones con consecuencias significativas — una de las medidas de GESTIÓN más importantes.
6. ¿Por qué MANAGE no es un punto final sino un ciclo?
Los conocimientos obtenidos de MANAGE se retroalimentan en MAP y MEASURE — el ciclo es el principio fundamental del RMF.
7. ¿Cómo se relaciona NIST AI RMF con el EU AI Act?
Perfecta complementariedad: EU AI Act = requisitos legales, NIST RMF = metodología de implementación operativa.
8. ¿Qué artículo del EU AI Act exige un sistema de gestión de riesgos de IA para IA de alto riesgo?
Art. 9 exige para la IA de alto riesgo un sistema de gestión de riesgos documentado — NIST AI RMF es un enfoque reconocido.
9. Un equipo de proyecto de IA pregunta: '¿Quién es responsable si nuestro sistema de IA comete un error?' ¿Qué función debe aclarar esto?
Las responsabilidades son una cuestión de GOVERN — parte del marco organizativo.
10. Una aseguradora quiere utilizar IA para la clasificación de riesgos. ¿Qué debería analizarse primero según MAP?
MAP comienza con el contexto y los interesados — ¿quiénes se ven afectados, qué daños podrían surgir? Solo entonces la técnica.