#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Entorno de ejecución seguro para aislar tareas de agentes de IA. Ejecute código no confiable en entornos WebAssembly aislados.

Escáner de seguridad de Docker impulsado por IA que explica las vulnerabilidades en un lenguaje sencillo. Un proyecto de laboratorio de OWASP.

OpenMed < 1.5.2 RCE no autenticado a través de la carga del modelo del filtro de privacidad PII y trust_remote_code=True

La seguridad no puede ser una instrucción de prompt. TBP proporciona un límite externo en la capa de ejecución para agentes autónomos, aplicando…

Una guía completa para las pruebas adversariales y la evaluación de seguridad de sistemas de IA, que ayuda a las organizaciones a identificar…

Despliega agentes de codificación con IA autoalojados (OpenClaw, Claude Code, Codex) en tu cuenta de AWS con CloudFormation, perfiles IAM y…

un agente de IA totalmente autónomo para ingeniería inversa

Framework de ataque de promoción grupal agéntico impulsado por LLM que manipula las clasificaciones de recomendadores de filtrado colaborativo de…

Recibos de delegación firmados criptográficamente para agentes de IA. Define exactamente lo que una IA puede y no puede hacer: firmado, verificable,…

Arnés de evaluación ligero para defensas contra envenenamiento de RAG que construye registros limpios/envenenados de cuatro condiciones y reporta…

Código de investigación para entrenar adaptadores que hacen que las puertas traseras de agentes LLM sobrevivan a un ajuste fino benigno, con…

Protección potente para agentes de IA: seguridad y seguimiento de costos de código abierto para aplicaciones de IA

Vulnerabilidad de jailbreak en las profundidades de salida temprana de los LLM. Publicado en NeurIPS 2026 en el taller FLMSec

Motor de triaje SAST/DAST offline que analiza código fuente y reproduce tráfico HAR para detectar fallos de lógica de negocio, BOLA, condiciones de…

Cómo la IA convierte los ataques de contraseñas de una enumeración ciega en campañas adaptativas, y las reglas de detección y contramedidas que los…

Conjunto de pruebas .eml abierto para evaluar cómo los controles de seguridad del correo electrónico y los asistentes de buzón con IA manejan la…

Motor de pruebas de penetración con IA multiagente autónomo: un sandbox de herramientas gobernado, una puerta inmutable de evidencia y validación, y…

Benchmark de red-teaming y framework de ataque de caja negra para evaluar riesgos de desinformación visual en generadores de imágenes comerciales,…