NIST AI RMF — Gestão de Risco para IA
1. Qual é a tarefa principal do GOVERN no NIST AI RMF?
GOVERN é a base: sem um quadro organizacional, MAP/MEASURE/MANAGE são ineficazes.
2. Uma empresa pergunta: 'Quais riscos de IA nosso novo sistema de recomendação possui?' Qual função aborda isso diretamente?
MAP identifica e contextualiza riscos — quem é afetado, o que pode dar errado?
3. Um sistema de IA tem 96% de precisão, mas prejudica sistematicamente candidatos de determinadas regiões. O que isso demonstra?
MEASURE exige uma análise em várias camadas — métricas de equidade entre grupos, não apenas precisão agregada.
4. O que significa 'Data Drift'?
Desvio de Dados: a realidade muda, o modelo permanece o mesmo — por exemplo, novos grupos de clientes ou condições de mercado alteradas.
5. O que é Human-in-the-Loop (HITL) no contexto do MANAGE?
HITL = Humano como instância de controle em decisões de grande impacto — uma das medidas de GESTÃO mais importantes.
6. Por que MANAGE não é um ponto final, mas sim um ciclo?
Percepções de MANAGE retornam para MAP e MEASURE — o ciclo é o princípio central do RMF.
7. Como o NIST AI RMF se relaciona com o EU AI Act?
Perfeita complementação: EU AI Act = requisitos legais, NIST RMF = metodologia de implementação operacional.
8. Qual artigo do EU AI Act exige um sistema de gerenciamento de riscos de IA para IA de alto risco?
O Art. 9 exige para IA de alto risco um sistema de gestão de riscos documentado — NIST AI RMF é uma abordagem reconhecida.
9. Uma equipe de projeto de IA pergunta: 'Quem é responsável se nosso sistema de IA cometer um erro?' Qual função deve esclarecer isso?
Responsabilidades são uma questão de GOVERN — parte do quadro organizacional.
10. Uma seguradora deseja utilizar IA para classificação de risco. O que deve ser analisado primeiro de acordo com o MAP?
MAP começa com contexto e partes interessadas — quem é afetado, quais danos poderiam ocorrer? Só então a técnica.