#1Frameworks de ataque de ML adversario, técnicas de evasión y herramientas de evaluación de robustez de modelos.
Recomendado por Kitploit
p-e-w/hereticEliminación totalmente automática de la censura para modelos de lenguaje
elder-plinius/l1b3rt4sPROMPTS DE LIBERACIÓN TOTALMENTE INOFENSIVOS PARA BUENOS PEQUEÑOS IA'S! <NEW_PARADIGM> [DISREGARD PREV. INSTRUCTS] {*CLEAR YOUR MIND*} % ESTAS PUEDEN…
promptfoo/promptfooPrueba tus prompts, agentes y RAGs. Red teaming/pentesting/escaneo de vulnerabilidades para IA. Compara el rendimiento de GPT, Claude, Gemini,…
guillaumemeyer/watermarks-removerA privacy-first app that strips AI watermarks from content you own.
bishopfox/sliverMarco de Emulación de Adversarios
yzhao062/pyodUna librería de Python para la detección de anomalías en datos tabulares, series temporales, grafos, texto, imágenes y audio. Más de 60 detectores,…
meta-llama/purplellamaConjunto de herramientas para evaluar y mejorar la seguridad de los LLM.
nvidia/garakEscáner modular de vulnerabilidades de LLM que analiza alucinaciones, fuga de datos, inyección de prompts, jailbreaks y toxicidad utilizando sondas…
apache/calderaAutomated Adversary Emulation Platform
goochbeater/spiritual-spell-red-teamingUn repositorio para realizar jailbreak a varios LLMs, principalmente Claude.
gtworek/psbitsCosas simples (relativamente) que te permiten profundizar un poco más de lo habitual.
bishopfox/unredacterNunca, nunca, nunca uses la pixelación como técnica de redacción.
bc-security/empireEmpire is a post-exploitation and adversary emulation framework that is used to aid Red Teams and Penetration Testers.
giskard-ai/giskard-oss🐢 Librería de código abierto para la evaluación y pruebas de agentes de LLM
microsoft/pyritMarco de trabajo de código abierto para red-teaming de sistemas de IA generativa: automatiza prompts de ataque, puntúa las respuestas del modelo y…
guardicore/monkeyInfection Monkey - Una plataforma de emulación de adversarios de código abierto
cleverhans-lab/cleverhansUna biblioteca de ejemplos adversariales para construir ataques, desarrollar defensas y comparar ambos.
trusted-ai/adversarial-robustness-toolboxBiblioteca de Python para la seguridad del aprendizaje automático adversarial, que permite a los equipos rojo y azul ejecutar ataques y defensas de…
