Riscos e controles resumidos a partir de MITRE ATLAS, OWASP LLM Top 10, OWASP LLMSVS e boas práticas próprias da Infocuesta Sec.
Categoria: Governança
Não existem regras claras sobre como a IA pode e não pode ser usada dentro da organização.
Exemplo: Funcionários usam uma IA generativa pública para processar dados de clientes, sem orientação da empresa.
Dica prática: Crie uma política simples de uso responsável de IA e comunique a todos os envolvidos.
Fonte: OWASP LLMSVS
Categoria: Ética
O modelo trata grupos de pessoas de forma diferente e injusta por causa de padrões aprendidos nos dados.
Exemplo: Um sistema de triagem de currículos rejeita candidatos de um determinado grupo com mais frequência, sem justificativa técnica.
Dica prática: Teste as respostas com diferentes perfis e monitore métricas de equidade regularmente.
Fonte: Boas práticas Infocuesta Sec
Categoria: Governança
Pessoas confiam nas respostas da IA sem questionar, mesmo em decisões importantes.
Exemplo: Um analista aprova um contrato só porque a IA disse que 'está tudo certo', sem revisão humana.
Dica prática: Reforce que a IA é uma ferramenta de apoio e treine as pessoas a validar respostas críticas.