#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Un runtime* seguro para agentes de IA autónomos. Política a partir de constituciones en inglés sencillo. (*https://ironcurtain.dev)

Capa de evidencia criptográficamente firmada y verificable mediante repetición para agentes de IA. Gobierna las acciones en el bucle, produce recibos…

Los archivos fuente y las herramientas necesarias para construir los mazos de OWASP Cornucopia en varios idiomas

Motor formal de análisis de flujo de datos interprocedimental para seguridad de aplicaciones. Rastrea datos no confiables a través de límites de…

CEREBRO-RED v2: Plataforma avanzada de investigación de Red Team para LLM con algoritmo PAIR y evaluación LLM-como-juez

Google Tensor Cracks

Implementación funcional: identidades de corta duración verificadas criptográficamente para la autenticación de decisiones de IA — CVE-2025-59536…

Contribuciones de inteligencia de amenazas de DugganUSA al IETF Hackathon: vectores de referencia de ataques agénticos del mundo real, análisis de…

Técnica de inyección de prompts en múltiples etapas que evita la alineación de seguridad de los LLM mediante la reasignación de identidad, la…

Habilidades para modelado de amenazas, escaneo, triaje, parches, además de un arnés de escaneo autónomo que puedes /customize

Marco de pruebas de seguridad para LLMs que detecta inyección de prompts, jailbreaks y ataques adversariales — más de 190 sondas, 28 proveedores, un…

Un agente autónomo modular y basado en habilidades para el Centro de Operaciones de Seguridad (SOC) que monitorea datos de OpenSearch/Elasticsearch,…

Moxy es una herramienta DAST de código abierto diseñada para pruebas de seguridad modernas en aplicaciones web. Proporciona una interfaz fácil de…

SecureAI-Scan es una herramienta CLI que analiza bases de código TypeScript y JavaScript en busca de problemas de seguridad específicos de…

Tubería automatizada de análisis de amenazas impulsada por IA que enruta archivos, URLs, IPs, dominios o imágenes a través de analizadores de…

Defensa asimétrica contra agentes de IA adversarios. VeilGate evalúa cada solicitud entrante, redirige a los agentes sospechosos a un entorno…

cMCP: Puerta de enlace MCP confidencial. Aplicación de políticas atestiguada por hardware para llamadas a herramientas MCP.

Red Team AI Benchmark: Evaluación de LLMs para tareas autorizadas de seguridad ofensiva. Red Team AI Benchmark es un benchmark de evaluación de…