Governança de IA deixou de ser conversa abstrata sobre ética. Há três referências públicas para começar: o NIST AI RMF, a ISO/IEC 42001 e o EU AI Act. Um aviso importante: os prazos do AI Act mudaram, e muito texto na internet ainda traz as datas antigas.
O que é governança de IA
É o conjunto de políticas, papéis e processos que define como sistemas de IA são projetados, avaliados, implantados e monitorados. Na prática, responde a perguntas simples: quem aprova um novo modelo, como os riscos são documentados antes de ir a produção e quem responde quando o sistema erra. Como todo sistema de IA depende de dados, tratar segurança de dados como assunto separado deixa lacunas.
NIST AI Risk Management Framework
A versão 1.0 foi lançada em 26 de janeiro de 2023, e o uso é voluntário. Tem quatro funções centrais: Governar, Mapear, Medir e Gerenciar. Em 26 de julho de 2024, o NIST publicou o Generative AI Profile (NIST AI 600-1), que nomeia 12 riscos próprios da IA generativa, entre eles confabulação, privacidade de dados, informação sobre armas químicas, biológicas, radiológicas e nucleares, propriedade intelectual e segurança da informação.
ISO/IEC 42001
Publicada em dezembro de 2023, é a primeira norma de sistema de gestão para IA. Diferente do NIST, é certificável por auditoria externa, como a ISO/IEC 27001, com a qual foi desenhada para conviver. Usa a estrutura harmonizada das normas de gestão da ISO.
EU AI Act
É lei, não framework voluntário. Classifica sistemas por nível de risco e define obrigações por categoria. O que vale hoje:
- práticas de risco inaceitável proibidas desde fevereiro de 2025;
- obrigações para modelos de propósito geral desde 2 de agosto de 2025;
- obrigações de transparência do artigo 50 (avisar que a pessoa interage com IA e rotular conteúdo gerado) mantidas em 2 de agosto de 2026;
- sistemas de alto risco do Anexo III adiados para 2 de dezembro de 2027, e os incorporados a produtos regulados, do Anexo I, para 2 de agosto de 2028.
Esse adiamento vem do chamado Digital Omnibus on AI. Segundo o escritório Gibson Dunn, houve acordo político e a adoção formal era esperada antes de 2 de agosto de 2026. Fontes jurídicas posteriores indicam que o texto foi publicado no Jornal Oficial em julho de 2026. Não conferi o texto oficial, então confirme a versão final no EUR-Lex antes de decidir qualquer coisa. A versão anterior deste post dizia que as obrigações plenas de alto risco chegavam em 2 de agosto de 2026, o que não vale mais.
Como aplicar
- Mapeie onde a IA já roda. Inclua as ferramentas que os times adotaram por conta própria, como assistentes de código.
- Use um framework como esqueleto. Muitas empresas começam pelo NIST AI RMF por ser gratuito e sem certificação, e migram para a ISO 42001 quando precisam provar conformidade a clientes. Quem vende ou opera na Europa precisa olhar o AI Act.
- Integre segurança de dados. Cada ferramenta que um agente de IA pode acionar amplia a superfície de risco e precisa entrar na avaliação.
- Documente e audite. Os três referenciais pedem registro de decisões e riscos, que é o que reguladores e certificadoras vão pedir.
Segurança de dados
A base é a mesma tríade clássica: confidencialidade (só acessa quem deve), integridade (dados de treino adulterados, o “data poisoning”, comprometem o modelo) e disponibilidade (dados e sistemas acessíveis, com plano de recuperação).
Onde as empresas travam
Em geral em três pontos: a tecnologia muda mais rápido que a política interna, modelos de linguagem são probabilísticos e mais difíceis de auditar que software tradicional, e ataques como prompt injection são categorias novas que nem toda equipe de segurança já trata com processo maduro.
