Biblioteca de boas práticas

Riscos e controles de IA

Riscos e controles resumidos a partir de MITRE ATLAS, OWASP LLM Top 10, OWASP LLMSVS e boas práticas próprias da InfocuestaSec.

Riscos

Crítico Privacidade

A IA revela, sem querer, dados pessoais, segredos de negócio ou informações confidenciais nas respostas.

Exemplo: Um assistente interno responde a pergunta de um funcionário revelando o salário de outro colaborador.

Dica prática: Nunca envie dados sensíveis desnecessários no prompt e teste cenários de vazamento antes de lançar.

Médio Privacidade

Dados sensíveis ficam armazenados por tempo indefinido em bancos vetoriais ou logs, sem política de expiração.

Exemplo: Um chat com dados pessoais é indexado e nunca é removido, mesmo após o usuário pedir exclusão.

Dica prática: Defina prazos de retenção e um processo para excluir dados sob pedido.

Fonte: OWASP LLMSVS

Criptografia e Isolamento em Bancos Vetoriais — Dados vetoriais são criptografados, segregados por cliente/time e têm prazo de retenção definido.