Avalie a segurança de soluções de IA em poucos minutos
Ferramentas, prompts, RAGs, agentes e servidores MCP — com avaliação guiada, scanner de código/URL e diagnóstico de arquitetura segura (Security by Design). Tudo em português simples.
Scanner: checagens novas de MCP (Tool Poisoning, credencial fixa, versão sem pin) e Data Poisoning — ver o que mudou.
Defina de 3 a 5 métricas simples antes de lançar (ex.: acurácia, custo por interação, tempo de resposta, satisfação).
O que a comunidade já ajudou a encontrar
Estes números crescem a cada avaliação ou scan feito por qualquer pessoa — é assim que a ferramenta fica mais útil com o tempo, sem guardar dados de ninguém.
Problemas que mais aparecem
- Ausência de Controle de Acesso (16x)
- Roubo de Modelo (Model Theft) (10x)
- Exposição de Infraestrutura de Inferência (6x)
- Vazamento de Dados Sensíveis (6x)
- Excesso de Permissões em Agente (Excessive Agency) (5x)
Soluções mais recomendadas
- Defina perfis de acesso e exija autenticação para configuração, dados e logs da solução.
- Limite a taxa de chamadas à API e monitore padrões de uso suspeitos que indiquem extração em massa.
- Coloque endpoints de inferência atrás de autenticação, rede privada e limites de requisições.
- Evite enviar dados sensíveis desnecessários no prompt e teste cenários de vazamento antes de lançar.
- Aplique o princípio do menor privilégio: dê ao agente só as permissões estritamente necessárias.
8441 visitas à página inicial registradas até agora.
Frameworks e normas que usamos como referência Novo
As avaliações, o scanner e a biblioteca são construídos a partir de padrões reconhecidos de segurança, gestão e regulação de IA: