EpiReal-Bench
ye-ze-yu/epireal-benchBenchmark di red-teaming e framework di attacco black-box per valutare i rischi di disinformazione visiva nei generatori di immagini commerciali, con…
machine-learningpapers-researchmisconfiguration+4
3
ye-ze-yu/epireal-benchBenchmark di red-teaming e framework di attacco black-box per valutare i rischi di disinformazione visiva nei generatori di immagini commerciali, con…
moontea0416/webmirageAttacchi con immagini adversariali contro agenti web vision-linguaggio, dal visual grounding all'esecuzione nel browser
stardust457/sldrFramework di difesa che mitiga il fine-tuning malevolo dei LLM utilizzando il ripristino selettivo dei layer e il routing dinamico, con script per il…
graph-com/cka-agentImplementazione di ricerca di un agente di jailbreak LLM che aggira i guardrail dei modelli commerciali utilizzando il prompt weaving innocuo e la…
treeai-lab/awesome-rag-securityRaccolta curata di articoli di ricerca sulla sicurezza della generazione aumentata dal recupero, organizzata secondo la tassonomia SLOT che copre…
deep-jlu/skillpoisonPipeline di ricerca che costruisce esperienze di successo verificate e le organizza in registri di formazione per avvelenare progressivamente le…
zju-llm-safety/ascentFramework di fine-tuning che applica una calibrazione di sicurezza ottimale del primo ordine e una ricalibrazione periodica ai LLM, preservando gli…
euph00/zoneclaw-codeBenchmark e codice di difesa per attacchi alla memoria persistente su agenti di tipo computer-use in stile OpenClaw, con mitigazione tramite…
sliu11-byte/mea-benchUn benchmark del ciclo di vita per attacchi di estrazione LLM black-box, difese e attacchi adattivi.
js-lee-ai/refusal-relocatesRefusal localizes, the damage relocates, safety layers under few-sample fine-tuning
kevinchunye/prompt_injectionHarness di benchmark che misura dove si attivano le difese contro la prompt injection nelle pipeline di agenti LLM che utilizzano strumenti,…
guzonghua/awesome-latency-attacksIndice curato di attacchi e difese su latenza, latenza-energia e timing (disponibilità) nel deep learning — complemento alla sottomissione ad ACM…
facebookresearch/meta_secalignLLM open-weight e codice di training/valutazione per difendersi dagli attacchi di prompt injection, con benchmark per la sicurezza del tool-calling…
kaill-jlq/mmskillriskBenchmark e harness di valutazione che verifica se gli agenti LLM resistono a istruzioni malevole nascoste in immagini di skill multimodali, con 108…
zju-llm-safety/traceAgentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…
zju-llm-safety/darwinFramework evolutivo di jailbreak e guardrail per LLM che sviluppa un pool di strategie riutilizzabili tramite mutazione genetica, selezione di Markov…
albert-y1n/piforgeFramework aperto per il red teaming di prompt injection basato su RL, con un trainer condiviso, curriculum learning e benchmark come AgentDojo,…
breachsimrange/redteamsimmerPiattaforma di emulazione avversaria basata sul web che orchestra i test di Atomic Red Team su endpoint Windows tramite agenti Go, con mappatura…