Biblioteca de Boas Práticas

Riscos e controles resumidos a partir de MITRE ATLAS, OWASP LLM Top 10, OWASP LLMSVS e boas práticas próprias da Infocuesta Sec.

Riscos

Baixo Extração de Entidades Pouco Confiável

Categoria: Qualidade

O sistema de NLP erra ao identificar nomes, datas, valores ou outras entidades importantes no texto.

Exemplo: Um extrator de dados de contratos confunde o nome do contratante com o do contratado.

Dica prática: Teste com exemplos reais e variados, e adicione revisão humana para casos críticos.

Fonte: Boas práticas Infocuesta Sec

Revisão Humana de Extração de Entidades — Extrações críticas feitas por NLP passam por revisão humana antes de alimentar outro processo.