#1Frameworks de ataque de ML adversario, técnicas de evasión y herramientas de evaluación de robustez de modelos.
Recomendado por Kitploit
microsoft/pyritMarco de trabajo de código abierto para red-teaming de sistemas de IA generativa: automatiza prompts de ataque, puntúa las respuestas del modelo y…
giskard-ai/giskard-oss🐢 Librería de código abierto para la evaluación y pruebas de agentes de LLM
ottosulin/awesome-ai-securityUna colección de recursos increíbles relacionados con la seguridad de la IA
promptfoo/promptfooPrueba tus prompts, agentes y RAGs. Red teaming/pentesting/escaneo de vulnerabilidades para IA. Compara el rendimiento de GPT, Claude, Gemini,…
bishopfox/sliverMarco de Emulación de Adversarios
microsoft/responsible-ai-toolboxPaneles interactivos y bibliotecas para la depuración responsable de modelos de IA, que cubren análisis de errores, equidad, interpretabilidad,…
dovughs/mora-hwbpMotor de instrumentación de telemetría y hooking en modo usuario sin parches basado en puntos de interrupción de hardware (DR0-DR7) (PoC de AMSI,…
p-e-w/hereticEliminación totalmente automática de la censura para modelos de lenguaje
promptfoo/modelauditSecurity scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment
s3n4t0r-0x0/bear-c2The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…
gmh5225/awesome-ai-securityA curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.
goochbeater/spiritual-spell-red-teamingUn repositorio para realizar jailbreak a varios LLMs, principalmente Claude.
togg53192-cmd/jailbreaksColección curada de prompts de jailbreak para LLM y técnicas de bypass, que documenta entradas adversarias que eluden las barreras de seguridad de…
guillaumemeyer/watermarks-removerUna aplicación que prioriza la privacidad y elimina las marcas de agua de IA del contenido que te pertenece.
nvidia/garakModular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…
misp/misp-galaxyClusters and elements to attach to MISP events or attributes (like threat actors)
datadog/stratus-red-team:cloud: :zap: Emulación de adversarios granular y accionable para la nube
meridianlabs-ai/inspect_petriUn agente de auditoría de alineación capaz de explorar rápidamente hipótesis de alineación.
