#1Framework di attacco ML avversario, tecniche di evasione e strumenti di valutazione della robustezza del modello.
Raccomandato da Kitploit
thinwayliu/multimodal-unlearnable-examplesIl codice per ACM MM2024 (Multimodal Unlearnable Examples: Protecting Data against Multimodal Contrastive Learning)
jinxhy/awesome-moai-securityElenco di letture curato e tassonomia della ricerca su attacchi e difese per sistemi AI mobili su dispositivo, che copre attacchi avversari,…
ye-ze-yu/epireal-benchBenchmark di red-teaming e framework di attacco black-box per valutare i rischi di disinformazione visiva nei generatori di immagini commerciali, con…
wang-yanting/agentwatcherAttribuzione del contesto causale e monitor basato su regole per la difesa LLM contro l'iniezione di prompt indiretta negli agenti LLM, raggiungendo…
borealisai/stepjackFramework di benchmarking per la valutazione di agenti AI che utilizzano il computer contro la prompt injection indiretta multi-step, con…
sej2020/manipulating-web-agentsDimostrazione di ricerca di attacchi di injection di prompt indiretti per controllare agenti web autonomi basati su LLM, con strumenti per…
phil-fan/fs-attackImplementazione dell'articolo "Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model"
dtrecherel/dnsspoofUno strumento DNS spoofer scritto in Python3.
canonicalmg/reverse-captcha-evalFramework di valutazione che verifica se i modelli linguistici di grandi dimensioni seguono istruzioni invisibili codificate in Unicode, incorporate…
multimodal-ai-lab/tobacToken per Token, Compromesso: Vulnerabilità Backdoor nei Modelli Autoregressivi Unificati (NeurIPS'26)
kevinchunye/prompt_injectionHarness di benchmark che misura dove si attivano le difese contro la prompt injection nelle pipeline di agenti LLM che utilizzano strumenti,…
stardust457/sldrFramework di difesa che mitiga il fine-tuning malevolo dei LLM utilizzando il ripristino selettivo dei layer e il routing dinamico, con script per il…
azzzzliao/aegis-audio-defenseFramework di difesa che mantiene congelati i modelli audio-linguaggio e aggiunge un gate di rischio a livello intermedio con adattatori di sicurezza…
sliu11-byte/mea-benchUn benchmark del ciclo di vita per attacchi di estrazione LLM black-box, difese e attacchi adattivi.
gmh5225/llm-attack-promptJailbreak,Prompt Leaks,Prompt Injection,Attacco LLM.Raccolta di prompt per attacchi a modelli linguistici di grandi dimensioni
rakib-nyc/nulloriginToolkit per la robustezza dei watermark AI, solo a scopo di ricerca: un reverse proxy locale rimuove C2PA/EXIF/XMP, Unicode, steganografia di…
zdcslab/rubrics-as-an-attack-surfaceCodice di ricerca per Rubric-Induced Preference Drift (RIPD): ricerca evolutiva di rubriche, selezione che preserva il benchmark e valutazione del…
siyuanli00/intactCodice di ricerca che riproduce esperimenti di jailbreak multi-turno su LLM (FITD, MRCJ, ActorAttack, X-Teaming) dal paper di sistematizzazione SoK…
