#1Herramientas de seguridad basadas en ML, aprendizaje automático adversario y defensa cibernética con IA.
Recomendado por Kitploit
hannahxchen/llm-censorship-steeringCódigo para 'Dirigiendo la Censura: Descubriendo Vectores de Representación para el Control del "Pensamiento" de LLM'
mamadou-keita/deeclipImplementación del artículo "DeeCLIP: A Robust and Generalizable Transformer-Based Framework for Detecting AI-Generated Images"
aniketkarne/aco-prompt-shieldDetén los ataques de prompt injection antes de que lleguen a tu LLM — cero costes de API, se ejecuta íntegramente en local y se integra en 2 minutos.…
jinxhy/awesome-moai-securityLista de lectura curada y taxonomía de investigación sobre ataques y defensas para sistemas de IA integrados en dispositivos móviles, que cubre…
safety-research/red-teaming-auto-modeResearch code for red-teaming AI auto-mode monitors, including simulation evals, fuzzing, and monitor implementations for Claude Code and Codex…
deep-jlu/skillpoisonPipeline de investigación que construye experiencias exitosas verificadas y las organiza en registros de formación para envenenar progresivamente las…
wang-yanting/agentwatcherAtribución de contexto causal y monitor basado en reglas de defensa LLM contra la inyección indirecta de prompts en agentes LLM, logrando un…
mouna23/ai-driven-mitre-attackEste repositorio demuestra un pipeline de aprendizaje automático para detectar técnicas de MITRE ATT&CK a partir de registros (logs) y enriquecer la…
rin449/bhpaiPlataforma de análisis de malware multiformato que combina un sandbox sigiloso de Windows en Ring-3, analizadores estáticos de PE/PDF, recuperación…
abhinavdubey30/perturbed-embedding-vectorsCódigo, registros de respuesta y etiquetas para el artículo Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
ye-ze-yu/epireal-benchBenchmark de red-teaming y framework de ataque de caja negra para evaluar riesgos de desinformación visual en generadores de imágenes comerciales,…
q-rz/saffronEscalado de inferencia para la garantía de seguridad de LLM
multimodal-ai-lab/tobacToken a Token, Comprometido: Vulnerabilidades de Puerta Trasera en Modelos Autorregresivos Unificados (NeurIPS'26)
canonicalmg/reverse-captcha-evalMarco de evaluación que prueba si los modelos de lenguaje grandes siguen instrucciones codificadas en Unicode invisibles incrustadas en texto de…
kevinchunye/prompt_injectionArnés de benchmark que mide dónde se activan las defensas contra la inyección de prompts en pipelines de agentes LLM que usan herramientas,…
clearlotus-git/cve-2024-37054-pocRepositorio de prueba de concepto e investigación para CVE-2024-37054, una vulnerabilidad de deserialización insegura en la carga de modelos PyFunc…
bardlaudian/cve-2024-37054Prueba de concepto que envenena modelos registrados de MLflow a través de la API REST, incrustando un pickle malicioso para desencadenar RCE cuando…
