#1Framework di attacco ML avversario, tecniche di evasione e strumenti di valutazione della robustezza del modello.
Raccomandato da Kitploit
zju-llm-safety/ascentFramework di fine-tuning che applica una calibrazione di sicurezza ottimale del primo ordine e una ricalibrazione periodica ai LLM, preservando gli…
abhinavdubey30/perturbed-embedding-vectorsCodice, log delle risposte ed etichette per il paper Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
jisung-pacific/hdi-graphrag-attackImplementazione di ricerca di Hop-Decayed Influence (HDI) e del framework di attacco 3S, che espone vulnerabilità strutturali di indicizzazione…
greshake/llm-securityDemo proof-of-concept e ricerca sugli attacchi di prompt injection indiretta contro LLM integrati nelle applicazioni, che coprono esfiltrazione di…
euph00/zoneclaw-codeBenchmark e codice di difesa per attacchi alla memoria persistente su agenti di tipo computer-use in stile OpenClaw, con mitigazione tramite…
sliu11-byte/mea-benchUn benchmark del ciclo di vita per attacchi di estrazione LLM black-box, difese e attacchi adattivi.
js-lee-ai/refusal-relocatesSicurezza degli LLM: analizza come il fine-tuning modifica il comportamento di rifiuto e valuta le difese basate su layer-freezing e low-rank.
kevinchunye/prompt_injectionHarness di benchmark che misura dove si attivano le difese contro la prompt injection nelle pipeline di agenti LLM che utilizzano strumenti,…
guzonghua/awesome-latency-attacksIndice curato di attacchi e difese su latenza, latenza-energia e timing (disponibilità) nel deep learning — complemento alla sottomissione ad ACM…
facebookresearch/meta_secalignLLM open-weight e codice di training/valutazione per difendersi dagli attacchi di prompt injection, con benchmark per la sicurezza del tool-calling…
kaill-jlq/mmskillriskBenchmark e harness di valutazione che verifica se gli agenti LLM resistono a istruzioni malevole nascoste in immagini di skill multimodali, con 108…
zju-llm-safety/traceFramework di jailbreak agentico per agenti basati su LLM che utilizza la scomposizione dei compiti basata su schemi, strategie di camuffamento…
zju-llm-safety/darwinFramework evolutivo di jailbreak e guardrail per LLM che sviluppa un pool di strategie riutilizzabili tramite mutazione genetica, selezione di Markov…
albert-y1n/piforgeFramework aperto per il red teaming di prompt injection basato su RL, con un trainer condiviso, curriculum learning e benchmark come AgentDojo,…
breachsimrange/redteamsimmerPiattaforma di emulazione avversaria basata sul web che orchestra i test di Atomic Red Team su endpoint Windows tramite agenti Go, con mappatura…
loophole-llc/fish-live-in-treesGemini - Iniezione di contesto per l'allineamento del runtime LLM di produzione
togg53192-cmd/jailbreaksRaccolta curata di prompt di jailbreak per LLM e tecniche di bypass, che documenta input avversariali in grado di aggirare le protezioni di sicurezza…
wsu-cyber-security-lab-ai/clipguardStrumento di perturbazione di immagini avversariali che utilizza la segmentazione SAM e i modelli CLIP per eludere i classificatori di immagini di…
