Ataque Adversario

13o-bbr-bbq/machine_learning_security

Código fuente sobre aprendizaje automático y seguridad.

funnywolf/viper

Plataforma de simulación de adversarios y Red teaming con IA

datadog/stratus-red-team

:cloud: :zap: Emulación de adversarios granular y accionable para la nube

jiep/offensive-ai-compilation

Una lista seleccionada de recursos útiles que cubren IA Ofensiva.

aloshdenny/reverse-synthid

ingeniería inversa de la detección SynthID de Gemini

microsoft/responsible-ai-toolbox

Paneles interactivos y bibliotecas para la depuración responsable de modelos de IA, que cubren análisis de errores, equidad, interpretabilidad,…

s3n4t0r-0x0/apts-adversary-simulation

Este repositorio contiene campañas detalladas de simulación de adversarios APT dirigidas a diversos sectores críticos. Cada simulación incluye…

sensity-ai/dot

Kit de herramientas deepfake en tiempo real para pruebas de penetración de sistemas de verificación de identidad y videoconferencias. Admite…

trusted-ai/aif360

Un conjunto completo de métricas de equidad para conjuntos de datos y modelos de aprendizaje automático, explicaciones para estas métricas y…

microsoft/ai-red-teaming-playground-labs

Laboratorios de práctica de Red Teaming de IA para ejecutar entrenamientos de Red Teaming de IA, incluida la infraestructura.

meridianlabs-ai/inspect_petri

Un agente de auditoría de alineación capaz de explorar rápidamente hipótesis de alineación.

govolution/avet

Herramienta de evasión de antivirus

bethgelab/foolbox

Una caja de herramientas de Python para crear ejemplos adversariales que engañan a redes neuronales en PyTorch, TensorFlow y JAX.

trusted-ai/aix360

Interpretabilidad y explicabilidad de datos y modelos de aprendizaje automático

nextronsystems/aptsimulator

Un conjunto de herramientas para hacer que un sistema parezca la víctima de un ataque APT

greshake/llm-security

Demos de prueba de concepto e investigación sobre ataques de inyección de prompts indirectos contra LLMs integrados en aplicaciones, abarcando…