Ataque Adversário

promptfoo/promptfoo

Teste seus prompts, agentes e RAGs. Red teaming/pentesting/varredura de vulnerabilidades para IA. Compare o desempenho de GPT, Claude, Gemini,…

guillaumemeyer/watermarks-remover

A privacy-first app that strips AI watermarks from content you own.

bishopfox/sliver

Framework de Emulação de Adversários

yzhao062/pyod

Uma biblioteca Python para detecção de anomalias em dados tabulares, séries temporais, grafos, texto, imagem e áudio. Mais de 60 detectores,…

meta-llama/purplellama

Conjunto de ferramentas para avaliar e melhorar a segurança de LLM.

nvidia/garak

Scanner de vulnerabilidades LLM modular que sonda por alucinação, vazamento de dados, injeção de prompt, jailbreaks e toxicidade usando sondas…

apache/caldera

Automated Adversary Emulation Platform

goochbeater/spiritual-spell-red-teaming

Um repositório para jailbreak de vários LLMs, principalmente o Claude.

gtworek/psbits

Coisas (relativamente) simples que permitem que você vá um pouco mais fundo do que o normal.

bishopfox/unredacter

Nunca, jamais, use pixelização como técnica de redação.

bc-security/empire

Empire is a post-exploitation and adversary emulation framework that is used to aid Red Teams and Penetration Testers.

giskard-ai/giskard-oss

🐢 Biblioteca de código aberto para avaliação e teste de Agentes de LLM

microsoft/pyrit

Framework de código aberto para red teaming de sistemas de IA generativa: automatize prompts de ataque, avalie as respostas do modelo e audite o…

guardicore/monkey

Infection Monkey - Uma plataforma de emulação de adversários de código aberto

cleverhans-lab/cleverhans

Uma biblioteca de exemplos adversariais para construir ataques, desenvolver defesas e avaliar ambos.

trusted-ai/adversarial-robustness-toolbox

Biblioteca Python para segurança de aprendizado de máquina adversarial, permitindo que equipes de red e blue team executem ataques e defesas de…