#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

OWASP Top 10 para Aplicaciones de Modelos de Lenguaje Grande (Parte del Proyecto de Seguridad GenAI)

Una colección de ejemplos de modelos de amenazas del mundo real en diversas tecnologías, que proporciona información práctica para identificar y…

Reproduje el método RYS de Ng y descubrí que duplicar 3 capas específicas en Qwen2.5-32B aumenta el razonamiento en un 17% y duplicar las capas 12-14…

Ofuscación anti-LLM mediante conteo de dedos

Trazas de resolución de agentes LLM, tablas de clasificación y resultados de benchmarks en plataformas de seguridad CTF y hacking

Observabilidad Semántica para Sistemas UNIX - Una sonda de sistema ligera basada en C con análisis impulsado por IA

Habilidad de evaluación de proveedores de software B2B para Claude Code — preguntas de expertos en el dominio, conversaciones con agentes de IA del…

Memoria agentiva para CTI en Python — gráficos de conocimiento STIX, resolución de alias de actores de amenazas, RAG offline primero, servidor MCP…

Marco automatizado para secuestrar el razonamiento de seguridad en modelos de razonamiento grandes mediante trazas de razonamiento simuladas y…

Herramienta de análisis de seguridad que identifica riesgos en extensiones de Blackbox.ai, incluida la recolección de credenciales, CVEs sin parchear…

Una inyección de prompt en un bot de revisión de código que ejecuta correcciones generadas por IA en un sandbox. El sandbox utiliza una lista negra…

Detector de inyección de prompts y jailbreak en dos etapas: compuertas regex más un clasificador ONNX DeBERTa-v3 cuantizado, con soporte para…

Un estudio de caso técnico y un conjunto de datos de cronología que documenta las políticas de alineación de seguridad, las salvaguardas y la…

Análisis técnico detallado de CVE-2024-5452, una vulnerabilidad de ejecución remota de código en PyTorch Lightning mediante la contaminación de la…

Anticipator es una plataforma de código abierto para la detección de amenazas en sistemas de IA multiagente.

Orbit Tracer Security Agent para remediación de seguridad inteligente. Traza el radio de impacto de las vulnerabilidades mediante el grafo de…

Revisión entre pares impulsada por IA para hallazgos de pentest o informes de Bug Bounty — valida la severidad, la evidencia y la calidad del informe…

Kit de herramientas de evaluación de vulnerabilidades y explotación mejorado con AI para escaneo modular de aplicaciones web, detectando SQLi, XSS,…