#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

¡Una colección de recursos de hacking / pruebas de penetración para mejorarte!

A search-first, profile-aware reverse-engineering workspace for AI agents — 735 tools across 36 domains in one MCP server.

Una colección de hackatones basados en desafíos que incluye guía para estudiantes, guía para entrenadores, presentaciones de conferencias, código de…

AI harness for long-running code audits, web pentests, and bug bounty hunting, built around how real investigations fail: anchored hypotheses, false…

Reevaluación de los detectores de inyección de prompts en las salidas de herramientas de agentes LLM (borrador de artículo, scripts, puntuaciones)

Demos de prueba de concepto e investigación sobre ataques de inyección de prompts indirectos contra LLMs integrados en aplicaciones, abarcando…

Autonomous AI pentesting engine, continuous offensive security across web, cloud, AD & Kubernetes. Agentic reasoning + real exploit execution deliver…

Repositorio para CoSAI Workstream 4, Secure Design Patterns for Agentic Systems

Compilación oficial y versión verificada | Pentester de IA de código abierto que demuestra cada hallazgo. Oráculos automáticos vuelven a ejecutar…

Framework de ataque de promoción grupal agéntico impulsado por LLM que manipula las clasificaciones de recomendadores de filtrado colaborativo de…

Herramienta offline y centrada en la seguridad para sincronizar y gestionar habilidades de agentes.

Pipeline de investigación para detectar señales latentes de exposición a inyección indirecta de prompts en LLM agénticos mediante sondaje de estados…

Your own always-on AI assistant: self-hosted, open source, lightweight. Each agent runs in its own container on your machine, on the harness you…

Un motor autónomo de red-teaming para LLMs. RedThread gestiona el ciclo de vida completo de la seguridad: generando ataques adversariales, ejecutando…

Ataques de imágenes adversarias contra agentes web de visión-lenguaje, desde el anclaje visual hasta la ejecución en el navegador

Un benchmark del ciclo de vida para ataques de extracción de LLM de caja negra, defensas y ataques adaptativos.

Agente impulsado por LLM que corrige automáticamente problemas de GitHub, encuentra vulnerabilidades de ciberseguridad y resuelve desafíos CTF…

A collection of awesome resources related AI security