#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

TP Seguridad Informática UTN FRBA 2021

Escanea Shodan en busca de servidores Ollama y llama.cpp expuestos públicamente, enumerando hosts, ubicaciones y modelos disponibles para…

Sistema de detección y ofuscación de código malicioso basado en IA con microservicios para detección, empaquetado y confusión de código, además de…

Exploits para CVE-2024-14027 creados usando AI/Claude como prueba.

OpenMed < 1.5.2 RCE no autenticado a través de la carga del modelo del filtro de privacidad PII y trust_remote_code=True

Página de aterrizaje de aviso público para CVE-2026-54519: falta de comprobaciones de propiedad en las API de memoria de ai-agent-automation que…

PoC de CVE-2026-45033 para Claude Code, no Github Copilot. Funcionó para Haiku 4.5.

Un modelo de riesgos orientado a la auditoría sobre cómo las inferencias generadas por agentes pueden cambiar de estatus epistémico, adquirir…

OWASP guide defining a standardized penetration testing methodology for humanoid, industrial, and autonomous robots, covering ROS/ROS2, DDS, CAN bus,…

Prueba de concepto que demuestra inyección de prompt en GraphCypherQAChain de Langchain que lleva a inyección SQL en bases de datos Neo4j. Incluye…

Proyecto de referencia de OWASP para la evidencia de seguridad de la IA agéntica: correlaciona la ejecución del agente, la identidad, las llamadas a…

Habilidad de Claude Code y Codex para encontrar copias de Brotli potencialmente vulnerables y guiar las actualizaciones para CVE-2026-111497.

Prueba de concepto de exploit para CVE-2026-33017, un RCE no autenticado en el endpoint build_public_tmp de Langflow, que inyecta un componente…

Motor de coincidencia de patrones de prompts inspirado en YARA que combina reglas de palabras clave, regex, similitud semántica y evaluación mediante…

Arnés agéntico que automatiza el descubrimiento y la validación de vulnerabilidades, orquestando flujos de trabajo de análisis impulsados por IA para…

Sentinel — el gobernador de entrada de DeanWay Labs. Controla lo que escucha un agente de IA: el contenido del mundo es dato, nunca órdenes. El…

Investigación de seguridad sobre la compactación de contexto en agentes de programación: muestra cómo las etiquetas de rol falsificadas en contenido…

Firewall LLM de dos capas que bloquea entradas de inyección de prompts mediante reglas regex más un clasificador Gemini, y detecta fugas de secretos…