#1Frameworks de ataque de ML adversario, técnicas de evasión y herramientas de evaluación de robustez de modelos.
Recomendado por Kitploit
aniketkarne/aco-prompt-shieldDetén los ataques de prompt injection antes de que lleguen a tu LLM — cero costes de API, se ejecuta íntegramente en local y se integra en 2 minutos.…
thinwayliu/multimodal-unlearnable-examplesEl código para ACM MM2024 (Multimodal Unlearnable Examples: Protecting Data against Multimodal Contrastive Learning)
jinxhy/awesome-moai-securityLista de lectura curada y taxonomía de investigación sobre ataques y defensas para sistemas de IA integrados en dispositivos móviles, que cubre…
ye-ze-yu/epireal-benchBenchmark de red-teaming y framework de ataque de caja negra para evaluar riesgos de desinformación visual en generadores de imágenes comerciales,…
wang-yanting/agentwatcherAtribución de contexto causal y monitor basado en reglas de defensa LLM contra la inyección indirecta de prompts en agentes LLM, logrando un…
borealisai/stepjackFramework de evaluación comparativa para evaluar agentes de IA de uso de computadora frente a inyección indirecta de prompts en múltiples pasos, con…
sej2020/manipulating-web-agentsDemostración de investigación de ataques de inyección de prompts indirectos para controlar agentes web autónomos basados en LLM, con herramientas…
phil-fan/fs-attackImplementación del artículo "Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model"
dtrecherel/dnsspoofUna herramienta de suplantación de DNS escrita en Python3.
canonicalmg/reverse-captcha-evalMarco de evaluación que prueba si los modelos de lenguaje grandes siguen instrucciones codificadas en Unicode invisibles incrustadas en texto de…
multimodal-ai-lab/tobacToken a Token, Comprometido: Vulnerabilidades de Puerta Trasera en Modelos Autorregresivos Unificados (NeurIPS'26)
kevinchunye/prompt_injectionArnés de benchmark que mide dónde se activan las defensas contra la inyección de prompts en pipelines de agentes LLM que usan herramientas,…
stardust457/sldrMarco de defensa que mitiga el fine-tuning malicioso de LLMs mediante recuperación selectiva de capas y enrutamiento dinámico, con scripts de…
azzzzliao/aegis-audio-defenseMarco de defensa que mantiene congelados los modelos de audio-lenguaje y añade una puerta de riesgo de capa intermedia con adaptadores de seguridad…
ericyoc/ai-security-literacyPipeline de Colab reproducible que fundamenta seis dimensiones de competencia en Alfabetización en Seguridad de IA en benchmarks públicos y…
sliu11-byte/mea-benchUn benchmark del ciclo de vida para ataques de extracción de LLM de caja negra, defensas y ataques adaptativos.
gmh5225/llm-attack-promptJailbreaks,Prompt Leaks,Prompt Injection,LLM Attack.Colección de prompts de ataque a modelos de lenguaje de gran escala
rakib-nyc/nulloriginResearch-only AI watermark robustness toolkit: local reverse proxy strips C2PA/EXIF/XMP, Unicode, image/audio stego, OOXML/PDF metadata, and scans…
