#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Protección contra ataques de serialización de modelos
Algoritmos para la detección de valores atípicos, adversarios y deriva

Un escáner de seguridad para tus flujos de trabajo agénticos con LLM.

Lista curada de artículos, estudios y cajas de herramientas sobre aprendizaje con puertas traseras, que organiza ataques y defensas basados en…

Entrena, evalúa y explora redes neuronales con herramientas integradas de robustez adversarial, incluyendo ataques PGD, entrenamiento adversarial y…

Automatiza la resolución de CAPTCHA con modelos de IA multimodales (GPT-4o, Gemini) y Selenium, compatible con texto, audio, rompecabezas de…

Benchmark estandarizado de robustez adversarial con un leaderboard público y un zoológico de modelos descargable para evaluar modelos de ML contra…

Interpretabilidad y explicabilidad de datos y modelos de aprendizaje automático

🥂 Enfrenta con elegancia el desafío de hCaptcha con un modelo de lenguaje grande multimodal.

Una lista seleccionada de recursos útiles que cubren IA Ofensiva.

Plataforma bancaria intencionalmente vulnerable para practicar pruebas de seguridad en aplicaciones web, API e IA/LLM, revisión de código seguro e…

Mantén los datos privados, la infraestructura interna y los secretos fuera de los agentes de codificación en la nube sin romper tu flujo de trabajo.

Marco de trabajo de código abierto para red-teaming de sistemas de IA generativa: automatiza prompts de ataque, puntúa las respuestas del modelo y…

Security scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment

🐢 Librería de código abierto para la evaluación y pruebas de agentes de LLM

Conjunto de herramientas para evaluar y mejorar la seguridad de los LLM.

Inspecciona, depura y prueba visualmente servidores del Model Context Protocol (MCP) desde una interfaz web, CLI o TUI, con exploración de…

Programmable guardrails for LLM chat apps: enforce input/output rails, block jailbreaks and prompt injections, detect hallucination, and mask…