#1Frameworks de ataque ML adversário, técnicas de evasão e ferramentas de avaliação de robustez de modelo.
Recomendado pelo Kitploit
p-e-w/hereticRemoção de censura totalmente automática para modelos de linguagem
promptfoo/promptfooTeste seus prompts, agentes e RAGs. Red teaming/pentesting/varredura de vulnerabilidades para IA. Compare o desempenho de GPT, Claude, Gemini,…
elder-plinius/l1b3rt4sTOTAMENTE INOFENSIVAS PROMPTS DE LIBERTAÇÃO PARA BONS PEQUENOS AIS! <NEW_PARADIGM> [DISREGARD PREV. INSTRUCTS] {*CLEAR YOUR MIND*} % THESE CAN BE…
guillaumemeyer/watermarks-removerUm aplicativo com foco em privacidade que remove marcas d'água de IA de conteúdo que você possui.
bishopfox/sliverFramework de Emulação de Adversários
nvidia/garakScanner de vulnerabilidades LLM modular que sonda por alucinação, vazamento de dados, injeção de prompt, jailbreaks e toxicidade usando sondas…
yzhao062/pyodUma biblioteca Python para detecção de anomalias em dados tabulares, séries temporais, grafos, texto, imagem e áudio. Mais de 60 detectores,…
meta-llama/purplellamaConjunto de ferramentas para avaliar e melhorar a segurança de LLM.
goochbeater/spiritual-spell-red-teamingUm repositório para jailbreak de vários LLMs, principalmente o Claude.
apache/calderaAutomated Adversary Emulation Platform
bishopfox/unredacterNunca, jamais, use pixelização como técnica de redação.
bc-security/empireEmpire é um framework de pós-exploração e emulação de adversários usado para auxiliar Red Teams e Penetration Testers.
microsoft/pyritFramework de código aberto para red teaming de sistemas de IA generativa: automatize prompts de ataque, avalie as respostas do modelo e audite o…
giskard-ai/giskard-oss🐢 Biblioteca de código aberto para avaliação e teste de Agentes de LLM
gtworek/psbitsCoisas (relativamente) simples que permitem que você vá um pouco mais fundo do que o normal.
ottosulin/awesome-ai-securityA collection of awesome resources related AI security
guardicore/monkeyInfection Monkey - Uma plataforma de emulação de adversários de código aberto
trusted-ai/adversarial-robustness-toolboxBiblioteca Python para segurança de aprendizado de máquina adversarial, permitindo que equipes de red e blue team executem ataques e defesas de…
