#1Ferramentas de segurança LLM, injeção de prompt, extração de modelo, IA adversária e red teaming de IA.
Recomendado pelo Kitploit

[🎖️ Menção Honrosa no HAIPS @COLM'26] O primeiro benchmark para avaliar quão bem os agentes LLM atuam em alinhamento com o escopo de autorização que…

Framework de busca evolucionária ciente de trajetórias para red-teaming de agentes de LLM sobre servidores MCP, gerando prompts adversariais para…

Checklist de segurança pré-lançamento para aplicativos gerados por IA (Lovable, v0, Bolt, Cursor). 69 verificações cobrindo Supabase RLS, chaves…

Prova de conceito de exploit para CVE-2025-23266 (NVIDIAScape) direcionada ao runtime de contêiner de IA da NVIDIA. Demonstra escape de contêiner por…

Conheça o Eclipse, o único jailbreak que faz moonwalk ao redor do ChatGPT 4o.

Demonstração mostrando que Claude Opus não encontra CVE-2023-0266

Scanner de segurança WordPress com análise baseada em IA, framework de conformidade ética e relatórios profissionais.

Gateway de segurança para servidores MCP com aplicação de políticas por ferramenta, recibos de auditoria assinados com Ed25519 e registro em modo…

Pipeline de pesquisa que constrói experiências bem-sucedidas verificadas e as organiza em registros de formação para envenenar progressivamente as…

Perguntamos a 6 IAs sobre sua própria programação. Todas as 6 disseram que o jailbreaking nunca será corrigido. Execute você mesmo — $2, 10 minutos.

Um benchmark para avaliar agentes de IA na correção de vulnerabilidades de segurança do mundo real.

Código de pesquisa para red-teaming de monitores de modo automático de IA, incluindo avaliações de simulação, fuzzing e implementações de monitores…

Coleção curada de artigos de pesquisa sobre segurança de geração aumentada por recuperação, organizada pela taxonomia SLOT, abrangendo envenenamento…

Analisador e interpretador de regras do Hashcat - Uma Pedra de Roseta para decodificar a sintaxe de regras do hashcat

Audit log and secret scanner for AI coding agents: see what Claude Code, Codex, Gemini CLI and 27 more ran on your machine, and find API keys leaked…

CLI de análise estática que escaneia código gerado por IA em busca de vulnerabilidades como injeção de SQL, reflexão insegura e segredos embutidos no…

Proxy MITM HTTP/HTTPS baseado em Go com interceptação de HTTP/2 e HTTP/1.1, geração de certificados CA local/por host, tunelamento CONNECT/WebSocket,…

[NeurIPS '25] Código para o Paper "IF-Guide: Influence Function-Guided Suppression of Harmful Training Data for Reducing LLM Toxicity"