#1Frameworks de ataque ML adversário, técnicas de evasão e ferramentas de avaliação de robustez de modelo.
Recomendado pelo Kitploit
togg53192-cmd/jailbreaksColeção curada de prompts de jailbreak de LLM e técnicas de bypass, documentando entradas adversariais que contornam as barreiras de segurança de…
joshuagodwin7929/purple-team-automationEmulação automatizada de adversário (Caldera) contra um laboratório de AD para validar a cobertura de detecção do Sigma e mapear os resultados para o…
nvidia/garakModular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…
p-e-w/hereticRemoção de censura totalmente automática para modelos de linguagem
bishopfox/sliverFramework de Emulação de Adversários
s3n4t0r-0x0/bear-c2The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…
promptfoo/promptfooTeste seus prompts, agentes e RAGs. Red teaming/pentesting/varredura de vulnerabilidades para IA. Compare o desempenho de GPT, Claude, Gemini,…
loophole-llc/fish-live-in-treesGemini - Injeção de Contexto de Alinhamento em Tempo de Execução de LLM em Produção
shaheeryasirofficial/smugglemypayloadGera páginas de contrabando de HTML que incorporam e reconstroem arquivos no lado do cliente via JavaScript, com codificação de payload,…
bc-security/empireEmpire é um framework de pós-exploração e emulação de adversários usado para auxiliar Red Teams e Penetration Testers.
trusted-ai/adversarial-robustness-toolboxBiblioteca Python para segurança de aprendizado de máquina adversarial, permitindo que equipes de red e blue team executem ataques e defesas de…
elder-plinius/l1b3rt4sTOTAMENTE INOFENSIVAS PROMPTS DE LIBERTAÇÃO PARA BONS PEQUENOS AIS! <NEW_PARADIGM> [DISREGARD PREV. INSTRUCTS] {*CLEAR YOUR MIND*} % THESE CAN BE…
microsoft/pyritFramework de código aberto para red teaming de sistemas de IA generativa: automatize prompts de ataque, avalie as respostas do modelo e audite o…
trinib/zorg-jailbreak-prompt-textContorne conteúdo restrito e censurado em prompts de chat de IA 😈
zju-llm-safety/darwinEstrutura evolutiva de jailbreak e guardrail para LLMs que expande um pool reutilizável de estratégias por meio de mutação genética, seleção de…
zju-llm-safety/traceAgentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…
cybershujin/prompt-injection-in-the-wildRastreador de técnicas de prompt injection reportadas publicamente, divididas por método de entrega, codificação e comportamento de propagação, com…
breachsimrange/redteamsimmerPlataforma de emulação de adversários baseada na web que orquestra testes do Atomic Red Team em endpoints Windows por meio de agentes Go, com…
