#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Escáner de vulnerabilidades para políticas administradas por el cliente de AWS utilizando ChatGPT
Gateway de código abierto que protege, gobierna y observa las llamadas a herramientas MCP y el tráfico LLM de los agentes de IA, con autenticación…

Este proyecto utiliza un modelo grande combinado con un rastreador web para buscar en GitHub todos los proyectos que contienen información valiosa…

Pipeline de investigación asistido por IA que extrae técnicas de desincronización HTTP, genera casos de prueba de solicitudes malformadas, los valida…

ingeniería inversa de SynthID para texto

Una extensión ligera de captura de tráfico y análisis de seguridad para el navegador, que permite capturar, interceptar, modificar, reproducir,…

Una base de conocimiento estructurada que cubre los fundamentos de seguridad en IA, modelado de amenazas, técnicas ofensivas de red team y defensas…

Marco de trabajo de agente autónomo con memoria estructurada, ganchos de seguridad y gestión de bucles. Construido por el agente que se ejecuta en él.

Una herramienta impulsada por IA para descubrir oportunidades de escalada de privilegios en configuraciones de AWS IAM.

EU AI Act Compliance Tool - Clasificación de riesgos y pruebas de sesgo

Sistema LLM multiagente que evalúa de forma autónoma la seguridad de aplicaciones web, orquestando una ejecución basada en herramientas y validando…

Despliega agentes de codificación con IA autoalojados (OpenClaw, Claude Code, Codex) en tu cuenta de AWS con CloudFormation, perfiles IAM y…

CLI de solo lectura que inventaría agentes de IA, servidores MCP, plugins y extensiones en una máquina, informando sus capacidades y exposición con…

Marco de jailbreak y guardrails para LLM evolutivo que hace crecer un pool de estrategias reutilizables mediante mutación genética, selección de…

Plataforma local de Capture-the-Flag con IA con lecciones guiadas sobre inyección de prompts, abuso de llamadas a herramientas y OSINT contra seis…

Flow Integrity Deterministic Enforcement System. Mecanismos para proteger agentes de IA con control de flujo de información.

Un arnés y punto de referencia abiertos para la IA en operaciones de ciberseguridad.

Usar LLMs para clasificación de documentos