#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Herramienta de pentesting de chat-box de IA en C: lanza payloads de lenguaje (SQLi/NoSQL/XSS/SSTI) e inyección de prompts contra interfaces de chat y…

Sentinel — el gobernador de entrada de DeanWay Labs. Controla lo que escucha un agente de IA: el contenido del mundo es dato, nunca órdenes. El…

Un servidor de agente personal persistente y seguro en Rust. Un solo binario, ejecución en entorno aislado, LLMs de múltiples proveedores, voz,…

Red team de IA local-first para seguridad de aplicaciones web, API y LLM. Razonamiento estilo atacante, hallazgos respaldados por evidencia y…

Contribuciones de inteligencia de amenazas de DugganUSA al IETF Hackathon: vectores de referencia de ataques agénticos del mundo real, análisis de…

Un motor autónomo de red-teaming para LLMs. RedThread gestiona el ciclo de vida completo de la seguridad: generando ataques adversariales, ejecutando…

Prueba de concepto y parche para CVE-2026-57845: RCE por deserialización de pickle en el constructor de pandas de Hugging Face datasets, con script…

Sistema de Agentes de IA totalmente autónomo capaz de realizar tareas complejas de pruebas de penetración

Investigación de seguridad sobre la compactación de contexto en agentes de programación: muestra cómo las etiquetas de rol falsificadas en contenido…

Un modelo de riesgos orientado a la auditoría sobre cómo las inferencias generadas por agentes pueden cambiar de estatus epistémico, adquirir…

Recuperación de identificadores JavaScript de nueva generación con LLMs.

Flujos de tareas de agentes de IA de ejemplo y servidores MCP para auditar código fuente, clasificar problemas y detectar vulnerabilidades en…

Extensión de Burp Suite que añade herramientas MCP integradas, análisis asistido por IA, controles de privacidad, escaneo pasivo y activo y más

Observabilidad de red impulsada por eBPF para Kubernetes. Indexa tráfico L4/L7 con contexto completo de K8s, descifra TLS sin claves. Consultable por…

Habilidad de protección en tiempo de ejecución que detecta y bloquea ataques maliciosos inducidos por habilidades en agentes aumentados con…

Fork optimizado de Bytebot: Agente de IA para control de escritorio. Reducido de 7GB a 1.09GB, parcheada CVE-2026-78250, con documentación viva…

Proyecto de OWASP para el modelado de amenazas asistido por IA, que ayuda a los equipos a identificar, analizar y documentar amenazas de seguridad y…

Código de investigación para medir las tasas de éxito de ataques de jailbreak (ASR y ASR por pasos) contra LLMs, con implementaciones de ataques como…