#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Agente de automatización de Android en lenguaje natural que controla dispositivos reales mediante ADB, captura Logcat y capturas de pantalla, y…

Framework de Python para construir flujos de trabajo de LLM como máquinas de estado con verificación formal mediante demostración de teoremas Z3,…

Marco de jailbreak y guardrails para LLM evolutivo que hace crecer un pool de estrategias reutilizables mediante mutación genética, selección de…

Motor de políticas y EDR para flotas de agentes de IA y estaciones de trabajo de desarrolladores. Monitorea llamadas a herramientas, acceso a…

Servidor MCP determinista y local-first para IDA Pro/Home: 109 operaciones de ingeniería inversa con esquema estricto, hallazgos respaldados por…

Recon-Scan: reconocimiento pasivo de código abierto con análisis de seguridad impulsado por IA. Sin intervención, pensado para desarrolladores y…

Evidencia y datos para el informe técnico de Sorami sobre los valores predeterminados de seguridad de 15 Helm charts de servicio de IA, bases de…

Código de investigación para HARDE, un arnés de agentes que sondea y optimiza de forma adaptativa componentes para la detección de riesgos en tiempo…

Un doggo que ayuda a buscar problemas de seguridad en tus repositorios.

Marco de defensa que mantiene congelados los modelos de audio-lenguaje y añade una puerta de riesgo de capa intermedia con adaptadores de seguridad…

Marco de trabajo de agente autónomo con memoria estructurada, ganchos de seguridad y gestión de bucles. Construido por el agente que se ejecuta en él.

Usa la API de ChatGPT, la API de Bard y Llama2, Python-Nmap, DNS Recon, módulos de reconocimiento de PCAP y JWT, y utiliza el modelo GPT3 para crear…

Código de investigación para un ataque troyano de caja gris que invierte un único bit de la caché KV en clasificadores LLM ajustados y mide la tasa…

Conjunto de benchmarks y código para detectar fallos de alineación de IA, con 44 benchmarks que abarcan diez tipos de fallos y un detector RLCD…

Código de investigación para red-teaming de monitores de modo automático de IA, incluyendo evaluaciones de simulación, fuzzing e implementaciones de…

Este repositorio contiene una herramienta que puede utilizarse para tareas automatizadas de pentesting.

CLI de evaluación comparativa de seguridad de IA de código abierto. Mide cómo los modelos de IA realizan tareas de seguridad ofensiva con análisis…

Un arnés determinista y manual para agentes ofensivos autónomos basados en LLM, que impone autorización, alcance y compuertas de evidencia para…