Biblioteca de boas práticas

Riscos e controles de IA

Riscos e controles resumidos a partir de MITRE ATLAS, OWASP LLM Top 10, OWASP LLMSVS e boas práticas próprias da InfocuestaSec.

Riscos

Alto Governança

Não existem regras claras sobre como a IA pode e não pode ser usada dentro da organização.

Exemplo: Funcionários usam uma IA generativa pública para processar dados de clientes, sem orientação da empresa.

Dica prática: Crie uma política simples de uso responsável de IA e comunique a todos os envolvidos.

Fonte: OWASP LLMSVS

Médio Governança

Pessoas confiam nas respostas da IA sem questionar, mesmo em decisões importantes.

Exemplo: Um analista aprova um contrato só porque a IA disse que 'está tudo certo', sem revisão humana.

Dica prática: Reforce que a IA é uma ferramenta de apoio e treine as pessoas a validar respostas críticas.

Política de Uso Responsável de IA — Documento simples com regras de uso aceitável, limites e responsáveis pela IA na organização.