#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Capa de evidencia criptográficamente firmada y verificable mediante repetición para agentes de IA. Gobierna las acciones en el bucle, produce recibos…

Sistema operativo seguro y privado para agentes de IA con almacenamiento local cifrado, autenticación OAuth/SSO, control de acceso basado en…

Marco defensivo que mantiene una memoria sombra centrada en la seguridad para detectar y bloquear amenazas de inyección de prompts y de horizonte…

Biblioteca interactiva de formación en concienciación sobre seguridad de código abierto con más de 130 ejercicios SCORM que cubren phishing, vishing,…

Analiza los estados internos de los LLM y más de 100 características de atención/probabilidad para entrenar clasificadores que detecten ataques de…

Este repositorio contiene la implementación oficial del artículo "[Safety in Batches? Understanding and Mitigating Safety Failures in Batch…

Pipeline sin intervención que convierte CVEs recientemente armadas del catálogo CISA Known Exploited Vulnerabilities (KEV) en reglas de detección…

Claves de API just-in-time para agentes de IA - y cualquier otro proceso que enrutes a través de ella: quien llama solo ve un marcador de posición.

Motor de ejecución concólica impulsado por agentes LLM que instrumenta el código fuente, resume las restricciones de ruta en lenguaje natural y…

Contraste local autorreferenciado para la detección de envenenamiento de conocimiento en generación aumentada por recuperación

plataforma autónoma de red teaming; meta-herramienta de seguridad ofensiva multiagente

Índice curado de ataques y defensas de latencia, latencia-energía y temporización (disponibilidad) en aprendizaje profundo — complemento del envío a…

Motor de búsqueda en el espacio de estados impulsado por LLM para pruebas de penetración autónomas, resolución de CTF e investigación de…

Herramienta offline y centrada en la seguridad para sincronizar y gestionar habilidades de agentes.

Reproduce CVE-2026-44246, una vulnerabilidad de inyección de prompts en el agente de triaje de GitHub Actions de nnU-Net, demostrando cómo el…

Aplica delegación de privilegios mínimos para agentes de IA con credenciales firmadas y con alcance definido. Otorga a los subagentes capacidades y…

Interpretabilidad y explicabilidad de datos y modelos de aprendizaje automático

Extensión de Burp Suite que incorpora detección pasiva de vulnerabilidades mediante inteligencia artificial.