#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Analizador e intérprete de reglas de Hashcat: una piedra de Rosetta para decodificar la sintaxis de reglas de hashcat

Framework abierto para red teaming de inyección de prompts basado en RL, con un entrenador compartido, aprendizaje por currículo y benchmarks como…

Laboratorios gratuitos prácticos de forense digital para estudiantes y docentes

Conjunto de benchmarks y código para detectar fallos de alineación de IA, con 44 benchmarks que abarcan diez tipos de fallos y un detector RLCD…

Self-hosted runtime control plane for AI agents. Observe or HITL approve or Block rogue tool calls before it executes: secret leaks, prompt…

Benchmark de red-teaming y framework de ataque de caja negra para evaluar riesgos de desinformación visual en generadores de imágenes comerciales,…

Framework multiagente con soporte MCP para flujos de trabajo agénticos declarativos basados en YAML, utilizado para auditoría de código asistida por…

Flujos de tareas de agentes de IA de ejemplo y servidores MCP para auditar código fuente, clasificar problemas y detectar vulnerabilidades en…

Marco de defensa para la seguridad de agentes LLM que compila contratos de tareas, valida manifiestos de capacidades y verifica efectos mediante…

Plataforma de inteligencia de amenazas autoalojada — agregación de feeds, triaje con IA, cobertura de MITRE ATT&CK e ingeniería de detección…

Banco de pruebas y arnés de evaluación que comprueba si los agentes LLM resisten instrucciones maliciosas ocultas en imágenes de habilidades…

Herramienta automatizada de inteligencia de Facebook impulsada por IA para la elaboración de perfiles de objetivos, análisis de redes y generación de…

open-source pentest management built to be operated by an AI agent

🥂 Enfrenta con elegancia el desafío de hCaptcha con un modelo de lenguaje grande multimodal.

Una lista curada de materiales y recursos de Seguridad en IA para Pentesters, Bug Hunters e Investigadores de Seguridad.

Automatiza la resolución de CAPTCHA con modelos de IA multimodales (GPT-4o, Gemini) y Selenium, compatible con texto, audio, rompecabezas de…

seguridad en tiempo de ejecución de agentes: sandboxing de agentes con confianza cero, configuración cero y latencia cero

Marco automatizado de pruebas de inyección de prompts para aplicaciones integradas con LLM con arquitectura de doble LLM.