#1Ferramentas de segurança LLM, injeção de prompt, extração de modelo, IA adversária e red teaming de IA.
Recomendado pelo Kitploit

Um benchmark para descoberta de bugs orientada por LLM: 77 desafios em 43 projetos de código aberto (C/C++/Java).

Um proxy transparente de redação de PII para tráfego de API de LLM. Fica entre uma aplicação e um provedor de LLM (atualmente Anthropic),…

Projeto OWASP Incubator: detecta credenciais expostas em conteúdo entregue pelo navegador (JavaScript, respostas de configuração, tráfego ao vivo).

Ferramenta de treinamento de conscientização em segurança para simulações de phishing autorizadas e auditorias internas de TI.

CEREBRO-RED v2: Plataforma Avançada de Pesquisa de Red Team para LLMs com Algoritmo PAIR e Avaliação LLM-como-Juiz

Servidor de Gerenciamento de Nuvem AIO

Um pacote TypeScript que fornece agentes com inteligência artificial para tarefas de Segurança de Aplicações (AppSec), construído sobre os modelos de…

CVPR2023: Clusters Inaprendíveis: Rumo a Exemplos Inaprendíveis Agnósticos de Rótulo

Framework de ataque para quebrar defesas de injeção de prompt baseadas em fine-tuning (SecAlign, SecAlign++, StruQ) usando ataques adversariais…

Servidor proxy que envolve servidores MCP com perfil comportamental, varredura de segurança, controle de risco e execução segura. Detecta injeção de…

Saiba o que mudou dentro da sua versão do Electron: compare duas builds quanto a IPC, preload, janelas, fuses e hosts, com file:line. CLI, gate de…

Triagem de alcançabilidade para varreduras de vulnerabilidades. Envia os resultados do scanner para um agente LLM que lê seu código-fonte e decide…

Forense de terminal criptográfica e reprodução de sessão para agentes de IA. Rastreia, assina e audita cada comando com rótulos de proveniência,…

Regras de detecção Sigma para monitoramento de segurança de agentes de IA

Secure local REST, CLI, MCP, and agent bridge for IDA Pro 9.x

Autoridade imposta pelo kernel e segurança em tempo de execução para sistemas Linux, software autônomo e agentes de IA.

Estrutura de ajuste fino que aplica calibração de segurança ótima de primeira ordem e recalibração periódica a LLMs, preservando atualizações…

Projeto de referência OWASP para evidências de segurança de IA agêntica: correlaciona execução de agentes, identidade, chamadas de ferramentas e…