#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Un enfoque de optimización de caja negra para proteger los prompts de sistema de los Modelos de Lenguaje Grande (LLM) contra ataques de extracción…
Pipeline de investigación que implementa un jailbreak visual-contextual contra LLMs multimodales: extracción de prompts T2I, renderizado de imágenes…

Escanea plugins de WordPress en busca de vulnerabilidades de guardas faltantes usando firmas de ripgrep, reglas de Semgrep, mapeo de superficie de…

¿Es la cuantización de 4 bits algo más que ruido para el comportamiento de seguridad de un modelo de chat? Código, prerregistro y etiquetas.

Evaluación del sesgo en agentes LLM para escenarios de ciberataque

🐾 Autoridad, no credenciales, para agentes de IA: acciones aprobadas por políticas, delegación que solo puede restringirse, revocación instantánea,…

En Loom, una regla de aprobación llamada code_interpreter pausa la herramienta Strands y omite las herramientas de código y comandos de ADK. Las…

En Loom con google-adk 2.13.0, una herramienta de agente a agente nunca espera la comprobación de aprobación, por lo que el envío se completa. La…

Un administrador del registro de Loom puede reescribir un documento de habilidad que no tiene propietario de grupo. El siguiente despliegue completo…

Escáner de seguridad de código abierto de alto rendimiento que combina SAST, SCA, detección de secretos y análisis de IaC, diseñado para…

RuralShield — un prototipo de investigación de AWS CDK para la seguridad en la nube sanitaria, con triaje de IA limitado por políticas, respuesta…

Haz que tu propia aplicación sea costosa de revertir. Un arnés de auditoría, endurecimiento y verificación en tiempo de compilación para binarios…

Servidor MCP que expone inteligencia de amenazas de VirusTotal a agentes de IA: informes de archivos, URL, dominios e IP, envío de análisis y…

Plataforma de pentest de autoservicio que solo escanea dominios cuya propiedad está demostrada y vuelve a verificar esa prueba en el momento del…

Plataforma OSINT autoalojada. Apúntala a un dominio, IP, correo electrónico, teléfono o nombre de usuario y 26 módulos se ejecutan en paralelo:…

Kit de herramientas de pruebas de seguridad web rápido y centrado en IA, escrito en Rust: una alternativa de código abierto a ZAP, Burp Suite y…

Plataforma OSINT autoalojada. Apúntala a un dominio, IP, correo electrónico, teléfono o nombre de usuario y 26 módulos se ejecutan en paralelo:…

Agente de pruebas de seguridad impulsado por LLM que ejecuta un bucle continuo de llamadas a herramientas contra un objetivo, con más de 160…