Ataque Adversário

bishopfox/sliver

Framework de Emulação de Adversários

microsoft/responsible-ai-toolbox

Dashboards interativos e bibliotecas para depuração responsável de modelos de IA, abrangendo análise de erros, justiça, interpretabilidade,…

dovughs/mora-hwbp

Motor de instrumentação de telemetria e hooking em modo de usuário sem patch, baseado em Hardware Breakpoint (DR0-DR7) (PoC de AMSI, WLDP e ETW).

p-e-w/heretic

Remoção de censura totalmente automática para modelos de linguagem

promptfoo/modelaudit

Security scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment

gmh5225/awesome-ai-security

A curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.

giskard-ai/giskard-oss

🐢 Biblioteca de código aberto para avaliação e teste de Agentes de LLM

ottosulin/awesome-ai-security

Uma coleção de recursos incríveis relacionados à segurança de IA

goochbeater/spiritual-spell-red-teaming

Um repositório para jailbreak de vários LLMs, principalmente o Claude.

togg53192-cmd/jailbreaks

Coleção curada de prompts de jailbreak de LLM e técnicas de bypass, documentando entradas adversariais que contornam as barreiras de segurança de…

guillaumemeyer/watermarks-remover

Um aplicativo com foco em privacidade que remove marcas d'água de IA de conteúdo que você possui.

nvidia/garak

Modular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…

misp/misp-galaxy

Clusters and elements to attach to MISP events or attributes (like threat actors)

datadog/stratus-red-team

:cloud: :zap: Emulação Granular e Acionável de Adversários para a Nuvem

meridianlabs-ai/inspect_petri

Um agente de auditoria de alinhamento capaz de explorar rapidamente hipóteses de alinhamento

s3n4t0r-0x0/bear-c2

The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…