#1Framework di attacco ML avversario, tecniche di evasione e strumenti di valutazione della robustezza del modello.
Raccomandato da Kitploit
ye-ze-yu/epireal-benchBenchmark di red-teaming e framework di attacco black-box per valutare i rischi di disinformazione visiva nei generatori di immagini commerciali, con…
moontea0416/webmirageAttacchi con immagini adversariali contro agenti web vision-linguaggio, dal visual grounding all'esecuzione nel browser
deep-jlu/skillpoisonPipeline di ricerca che costruisce esperienze di successo verificate e le organizza in registri di formazione per avvelenare progressivamente le…
js-lee-ai/refusal-relocatesSicurezza degli LLM: analizza come il fine-tuning modifica il comportamento di rifiuto e valuta le difese basate su layer-freezing e low-rank.
abhinavdubey30/perturbed-embedding-vectorsCodice, log delle risposte ed etichette per il paper Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
zju-llm-safety/ascentFramework di fine-tuning che applica una calibrazione di sicurezza ottimale del primo ordine e una ricalibrazione periodica ai LLM, preservando gli…
praetorian-inc/augustusFramework di test di sicurezza per LLM per rilevare iniezioni di prompt, jailbreak e attacchi avversari — oltre 190 sonde, 28 fornitori, un singolo…
jiep/offensive-ai-compilationUna lista curata di risorse utili che coprono l'AI Offensiva.
phil-fan/fs-attackImplementazione dell'articolo "Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model"
stardust457/sldrFramework di difesa che mitiga il fine-tuning malevolo dei LLM utilizzando il ripristino selettivo dei layer e il routing dinamico, con script per il…
zju-llm-safety/traceFramework di jailbreak agentico per agenti basati su LLM che utilizza la scomposizione dei compiti basata su schemi, strategie di camuffamento…
sliu11-byte/mea-benchUn benchmark del ciclo di vita per attacchi di estrazione LLM black-box, difese e attacchi adattivi.
kevinchunye/prompt_injectionHarness di benchmark che misura dove si attivano le difese contro la prompt injection nelle pipeline di agenti LLM che utilizzano strumenti,…
facebookincubator/ttpforgeIl TTPForge è un framework di cybersecurity per sviluppare, automatizzare ed eseguire Tattiche, Tecniche e Procedure (TTP) degli attaccanti.
multimodal-ai-lab/tobacToken per Token, Compromesso: Vulnerabilità Backdoor nei Modelli Autoregressivi Unificati (NeurIPS'26)
kaill-jlq/mmskillriskBenchmark e harness di valutazione che verifica se gli agenti LLM resistono a istruzioni malevole nascoste in immagini di skill multimodali, con 108…
albert-y1n/piforgeFramework aperto per il red teaming di prompt injection basato su RL, con un trainer condiviso, curriculum learning e benchmark come AgentDojo,…
albert-y1n/pismithPISmith: Red Teaming basato su Apprendimento per Rinforzo per la Difesa da Prompt Injection
