Seguridad de IA

agentguard-ai/tealtiger

Protección potente para agentes de IA: seguridad y seguimiento de costos de código abierto para aplicaciones de IA

promptfoo/promptfoo

Prueba tus prompts, agentes y RAGs. Red teaming/pentesting/escaneo de vulnerabilidades para IA. Compara el rendimiento de GPT, Claude, Gemini,…

firelock-ai/kin

Semantic graph-based version control for AI-written code. Tracks entities and relations instead of file diffs, enabling blast radius analysis, shadow…

ottosulin/awesome-ai-security

Una colección de recursos increíbles relacionados con la seguridad de la IA

nvidia/nemoclaw

Ejecuta agentes como Hermes, LangChain Deep Agents y OpenClaw de manera más segura dentro de NVIDIA OpenShell con inferencia gestionada

promptfoo/modelaudit

Escáner de seguridad para archivos de modelos de IA/ML. Detecta código malicioso, puertas traseras y vulnerabilidades antes del despliegue

nousresearch/hermes-agent

El agente que crece contigo

prismorsec/prismor

Self-hosted runtime control plane for AI agents. Observe or HITL approve or Block rogue tool calls before it executes: secret leaks, prompt…

linnix-os/linnix

Observabilidad de Linux impulsada por eBPF con detección de incidentes mediante IA. Licencia AGPL-3.0.

sseshachala/conductai

Runtime governance for AI agents. Allow, warn, or block every model and tool call before it commits. Hash-chained audit for every decision.…

owasp/docksec

Escáner de seguridad de Docker impulsado por IA que explica las vulnerabilidades en un lenguaje sencillo. Un proyecto de laboratorio de OWASP.

scopeblind/scopeblind-gateway

Ed25519 signed receipts + Cedar policies for AI agents. Finance mandate gate (Legate), proof packs, 3 IETF Internet-Drafts. npx protect-mcp

cgrtml/reasongate

Puerta de seguridad explicable para aplicaciones LLM — bloquea la inyección de prompts con una razón auditable para cada decisión.

pikpikcu/airecon

AIRecon es un agente autónomo de ciberseguridad que combina un modelo de lenguaje grande (LLM) autoalojado (Ollama) con un sandbox Docker de Kali…

luckypipewrench/pipelock

Firewall de agente de IA de código abierto que escanea tráfico HTTP, MCP, A2A y WebSocket en busca de exfiltración, SSRF e inyección de prompts,…

microsoft/pyrit

Marco de trabajo de código abierto para red-teaming de sistemas de IA generativa: automatiza prompts de ataque, puntúa las respuestas del modelo y…