hoodoer/colonelclusteredUn plugin Burp per Java che esegue il clustering del testo sulle risposte per identificare outlier/gruppi in base al contenuto effettivo delle…
rbidou/pyraspProtezione runtime delle applicazioni per server web Python, funzioni serverless e server MCP, che rileva attacchi, prompt injection e fughe di dati…
euph00/zoneclaw-codeBenchmark e codice di difesa per attacchi alla memoria persistente su agenti di tipo computer-use in stile OpenClaw, con mitigazione tramite…
sliu11-byte/mea-benchUn benchmark del ciclo di vita per attacchi di estrazione LLM black-box, difese e attacchi adattivi.
js-lee-ai/refusal-relocatesRefusal localizes, the damage relocates, safety layers under few-sample fine-tuning
liuz233/hardeCodice di ricerca per HARDE, un harness per agenti che sonda e ottimizza in modo adattivo i componenti per il rilevamento dei rischi a runtime e il…
kevinchunye/prompt_injectionHarness di benchmark che misura dove si attivano le difese contro la prompt injection nelle pipeline di agenti LLM che utilizzano strumenti,…
joshuaprovoste/deserializerAnalizzatore statico di codice basato su AST con mappatura delle relazioni potenziata da LLM agentici per scoprire percorsi RCE in Python e catene di…
guzonghua/awesome-latency-attacksIndice curato di attacchi e difese su latenza, latenza-energia e timing (disponibilità) nel deep learning — complemento alla sottomissione ad ACM…
facebookresearch/meta_secalignLLM open-weight e codice di training/valutazione per difendersi dagli attacchi di prompt injection, con benchmark per la sicurezza del tool-calling…
kaill-jlq/mmskillriskBenchmark e harness di valutazione che verifica se gli agenti LLM resistono a istruzioni malevole nascoste in immagini di skill multimodali, con 108…
zju-llm-safety/traceAgentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…
zju-llm-safety/darwinFramework evolutivo di jailbreak e guardrail per LLM che sviluppa un pool di strategie riutilizzabili tramite mutazione genetica, selezione di Markov…
albert-y1n/piforgeFramework aperto per il red teaming di prompt injection basato su RL, con un trainer condiviso, curriculum learning e benchmark come AgentDojo,…
123wwwa/flownameNext-generation JavaScript identifier recovery with LLMs.
wsu-cyber-security-lab-ai/clipguardStrumento di perturbazione di immagini avversariali che utilizza la segmentazione SAM e i modelli CLIP per eludere i classificatori di immagini di…
azzzzliao/aegis-audio-defenseDefense framework that keeps audio-language models frozen and adds a mid-layer risk gate with late-layer safety adapters to block audio jailbreaks at…
sumleo/rlcdalignbenchBenchmark suite and code for detecting AI alignment failures, with 44 benchmarks across ten failure types and a zero-shot RLCD detector evaluated on…
