lzwhehe/benign-instruction-benchReevaluación de los detectores de inyección de prompts en las salidas de herramientas de agentes LLM (borrador de artículo, scripts, puntuaciones)
hoodoer/colonelclusteredUn plugin de Burp en Java que realiza agrupamiento de texto en las respuestas para identificar valores atípicos/grupos basándose en el contenido real…
rbidou/pyraspProtección en tiempo de ejecución de aplicaciones para servidores web Python, funciones serverless y servidores MCP, que detecta ataques, inyección…
euph00/zoneclaw-codeCódigo de benchmark y defensa para ataques de memoria persistente en agentes de uso informático estilo OpenClaw, con mitigación de zonificación de…
sliu11-byte/mea-benchUn benchmark del ciclo de vida para ataques de extracción de LLM de caja negra, defensas y ataques adaptativos.
js-lee-ai/refusal-relocatesRefusal localizes, the damage relocates, safety layers under few-sample fine-tuning
liuz233/hardeCódigo de investigación para HARDE, un arnés de agentes que sondea y optimiza de forma adaptativa componentes para la detección de riesgos en tiempo…
kevinchunye/prompt_injectionArnés de benchmark que mide dónde se activan las defensas contra la inyección de prompts en pipelines de agentes LLM que usan herramientas,…
joshuaprovoste/deserializerAnalizador de código estático basado en AST con mapeo de relaciones impulsado por LLM agéntico para descubrir rutas de RCE en Python y cadenas…
guzonghua/awesome-latency-attacksÍndice curado de ataques y defensas de latencia, latencia-energía y temporización (disponibilidad) en aprendizaje profundo — complemento del envío a…
facebookresearch/meta_secalignLLMs de pesos abiertos y código de entrenamiento/evaluación para defenderse contra ataques de inyección de prompts, con benchmarks para la seguridad…
kaill-jlq/mmskillriskBanco de pruebas y arnés de evaluación que comprueba si los agentes LLM resisten instrucciones maliciosas ocultas en imágenes de habilidades…
zju-llm-safety/traceAgentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…
zju-llm-safety/darwinMarco de jailbreak y guardrails para LLM evolutivo que hace crecer un pool de estrategias reutilizables mediante mutación genética, selección de…
albert-y1n/piforgeFramework abierto para red teaming de inyección de prompts basado en RL, con un entrenador compartido, aprendizaje por currículo y benchmarks como…
123wwwa/flownameRecuperación de identificadores JavaScript de nueva generación con LLMs.
wsu-cyber-security-lab-ai/clipguardHerramienta de perturbación de imágenes adversarias que utiliza segmentación SAM y modelos CLIP para evadir clasificadores de imágenes de estafas…
azzzzliao/aegis-audio-defenseDefense framework that keeps audio-language models frozen and adds a mid-layer risk gate with late-layer safety adapters to block audio jailbreaks at…
