#1Frameworks de ataque de ML adversario, técnicas de evasión y herramientas de evaluación de robustez de modelos.
Recomendado por Kitploit
cognitive-functors/c4-meta-systemDefensa de IA en producción con protección de 7 capas: restricciones matemáticas, acceso por capacidades de objetos, consenso O2 distribuido, ética…
gmh5225/antidebug-antivmDiferentes métodos para detectar un entorno virtualizado o un posible debugging
george0papasotiriou/llm-jailbreak-via-chain-of-logic-injection-cve-2026-3098Técnica de inyección de prompts en múltiples etapas que evita la alineación de seguridad de los LLM mediante la reasignación de identidad, la…
binarybard27/ai-security-battleUna simulación adversarial de IA de Red Team vs. Blue Team.
toxy4ny/delirium-ai-safety-benchmarkMarco de diagnóstico para medir la vulnerabilidad de los LLM ante la Erosión Contextual Afectiva (ACE) y vectores de ataque liminales relacionados.…
owasp/damn-vulnerable-ml-modelModelo de aprendizaje automático intencionalmente vulnerable para formación práctica en seguridad. Explora vulnerabilidades comunes de ML, ataques…
xrazymee/ragsieveSelf-referenced local contrast for knowledge-poison detection in retrieval-augmented generation
kennbroorg/shit-bucket/fecalfaceEste proyecto (PoC por ahora, y parte de Shit Bucket) implica detección de rostros, reconocimiento facial y entrada adversarial para proteger avatares
george0papasotiriou/cve-2026-23003-cross-chain-bridge-message-forging-via-missing-origin-chain-idPoC de puente entre cadenas para CVE-2026-23003: demuestra la falsificación de mensajes mediante la falta de ID de cadena de origen utilizando un…
davidrxchester/cve-2026-5817POC de ejecución remota de código de contenedor Docker a host mediante vllm-metal trust_remote_code=True
kuro0911/cs5446-projectRepositorio de código para el proyecto CS5446 que explora defensas contra ataques de jailbreak en modelos de lenguaje grandes. Incluye conjuntos de…
spiralbl0ck/rowhammer-exploitExploit basado en RowHammer
shibli2700/randomrepoPOC de SecOpsMaesttro
protectai/rebuffDetector multicapa de inyección de prompts para aplicaciones de IA que utiliza heurísticas, análisis basado en LLM, firmas de ataque de vectorDB y…
protectai/llm-guardEl kit de seguridad para interacciones con LLM
es3n1n/no-defenderUna forma un poco más divertida de deshabilitar Windows Defender + firewall. (a través de la API WSC)
azure/pyritThe Python Risk Identification Tool for generative AI (PyRIT) es un framework de código abierto diseñado para capacitar a los profesionales de la…
yosangwon/arp-dns-spoofCódigo de ejemplo para suplantación de DNS con envenenamiento ARP.
