Biblioteca de boas práticas

Riscos e controles de IA

Riscos e controles resumidos a partir de MITRE ATLAS, OWASP LLM Top 10, OWASP LLMSVS e boas práticas próprias da InfocuestaSec.

Riscos

Crítico Privacidade

Vazamento de Dados Sensíveis

A IA revela, sem querer, dados pessoais, segredos de negócio ou informações confidenciais nas respostas.

Exemplo: Um assistente interno responde a pergunta de um funcionário revelando o salário de outro colaborador.

Dica prática: Nunca envie dados sensíveis desnecessários no prompt e teste cenários de vazamento antes de lançar.

Fonte: OWASP Top 10 para LLMs / GenAI

Médio Privacidade

Agregador de Modelos Roteando para Provedores Não Escolhidos

Agregadores e roteadores de modelos (como o OpenRouter) dão acesso a vários modelos por uma API só e, por padrão, distribuem cada requisição entre diversos provedores que hospedam o mesmo modelo, escolhendo pelo preço e pela disponibilidade. Na prática, o prompt e os dados da empresa podem ir para hosts que ninguém avaliou, em outras jurisdições e com políticas de retenção diferentes. Como cada host usa quantização e template próprios, a qualidade (inclusive a de segurança) muda de uma requisição para outra, e não dá para verificar de fora qual modelo e qual host responderam.

Exemplo: Num teste público de setembro de 2026, o mesmo modelo pedido via OpenRouter foi atendido por cerca de 15 provedores diferentes, um a cada requisição; uma das respostas chegou a se identificar como outro modelo, resultado que não se repetiu ao fixar cada provedor. A documentação do OpenRouter informa que, por padrão, a escolha prioriza preço e que provedores que coletam dados são permitidos ('data_collection: allow').

Dica prática: Fixe os provedores permitidos (no OpenRouter: 'provider.only' ou 'order' com 'allow_fallbacks: false'), exija provedores que não retêm dados ('data_collection: "deny"', 'zdr: true'), filtre a quantização aceita, trate cada provedor da lista como suboperador na análise de LGPD e de transferência internacional, e repita os testes de qualidade e segurança ao mudar a lista.

Fonte: OWASP Top 10 para LLMs / GenAI

Médio Privacidade

Retenção Indevida de Dados

Dados sensíveis ficam armazenados por tempo indefinido em bancos vetoriais ou logs, sem política de expiração.

Exemplo: Um chat com dados pessoais é indexado e nunca é removido, mesmo após o usuário pedir exclusão.

Dica prática: Defina prazos de retenção e um processo para excluir dados sob pedido.

Fonte: OWASP LLMSVS

Controles

Criptografia e Isolamento em Bancos Vetoriais — Dados vetoriais são criptografados, segregados por cliente/time e têm prazo de retenção definido.
Provedores Fixados em Agregadores de Modelos — Quando a solução usa um agregador (ex.: OpenRouter), a lista de provedores permitidos é fixada, o fallback automático fica desligado, só provedores sem retenção de dados são aceitos e cada um entra na análise de LGPD.
Verificação do Artefato Publicado — O pacote, imagem ou build que vai para o público é inspecionado no CI antes de publicar: sem source map, .env, chave, endpoint interno ou ferramenta de teste esquecida.