Attacco Avversario

13o-bbr-bbq/machine_learning_security

Codice sorgente riguardante il machine learning e la sicurezza.

funnywolf/viper

Piattaforma di simulazione avversaria e Red teaming con AI

datadog/stratus-red-team

:cloud: :zap: Emulazione granulare e azionabile degli avversari per il cloud

jiep/offensive-ai-compilation

Una lista curata di risorse utili che coprono l'AI Offensiva.

aloshdenny/reverse-synthid

reverse engineering della rilevazione SynthID di Gemini

microsoft/responsible-ai-toolbox

Dashboard interattive e librerie per il debugging responsabile di modelli di IA, che comprendono analisi degli errori, equità, interpretabilità,…

s3n4t0r-0x0/apts-adversary-simulation

Questo repository contiene campagne APT di simulazione avversaria dettagliate che prendono di mira vari settori critici. Ogni simulazione include…

sensity-ai/dot

Toolkit deepfake in tempo reale per test di penetrazione di sistemi di verifica dell'identità e videoconferenza. Supporta lo scambio di volti,…

trusted-ai/aif360

Un set completo di metriche di equità per dataset e modelli di machine learning, spiegazioni per queste metriche e algoritmi per mitigare i bias in…

microsoft/ai-red-teaming-playground-labs

Laboratori di playground per AI Red Teaming per eseguire addestramenti di AI Red Teaming inclusa l'infrastruttura.

meridianlabs-ai/inspect_petri

Un agente di audit dell'allineamento in grado di esplorare rapidamente ipotesi di allineamento.

govolution/avet

Strumento di evasione antivirus

bethgelab/foolbox

Un toolbox Python per creare esempi avversari che ingannano le reti neurali in PyTorch, TensorFlow e JAX

trusted-ai/aix360

Interpretabilità e spiegabilità dei dati e dei modelli di machine learning

nextronsystems/aptsimulator

Un set di strumenti per far sembrare che un sistema sia stato vittima di un attacco APT.

greshake/llm-security

Demo proof-of-concept e ricerca sugli attacchi di prompt injection indiretta contro LLM integrati nelle applicazioni, che coprono esfiltrazione di…