
giskard-oss
🐢 Librería de código abierto para la evaluación y pruebas de agentes de LLM

🐢 Librería de código abierto para la evaluación y pruebas de agentes de LLM

Marco de trabajo de código abierto para red-teaming de sistemas de IA generativa: automatiza prompts de ataque, puntúa las respuestas del modelo y…

Security scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment

Una colección de recursos increíbles relacionados con la seguridad de la IA

Un repositorio para realizar jailbreak a varios LLMs, principalmente Claude.

Prueba tus prompts, agentes y RAGs. Red teaming/pentesting/escaneo de vulnerabilidades para IA. Compara el rendimiento de GPT, Claude, Gemini,…

Eliminación totalmente automática de la censura para modelos de lenguaje

A curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.

Una aplicación que prioriza la privacidad y elimina las marcas de agua de IA del contenido que te pertenece.

Modular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…

Clusters and elements to attach to MISP events or attributes (like threat actors)

:cloud: :zap: Emulación de adversarios granular y accionable para la nube

Un agente de auditoría de alineación capaz de explorar rápidamente hipótesis de alineación.

Marco de Emulación de Adversarios

The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…

Plataforma de seguridad de IA de código abierto que proporciona defensa perimetral para LLMs y agentes de IA mediante análisis de enjambre,…

Arnés de benchmark que mide dónde se activan las defensas contra la inyección de prompts en pipelines de agentes LLM que usan herramientas,…

Genera páginas de contrabando HTML que incrustan y reconstruyen archivos en el lado del cliente mediante JavaScript, con codificación de payload,…