#1Strumenti di sicurezza basati su ML, machine learning avversario e difesa informatica potenziata dall'IA.
Raccomandato da Kitploit
ml-security-research-lab/cachetrapResearch code for a gray-box trojan attack that flips a single KV-cache bit in fine-tuned LLM classifiers and measures per-class attack success rate.
hannahxchen/llm-censorship-steeringCodice per 'Steering the CensorShip: Uncovering Representation Vectors for LLM "Thought" Control'
mamadou-keita/deeclipImplementazione del paper "DeeCLIP: un framework robusto e generalizzabile basato su Transformer per il rilevamento di immagini generate dall'IA"
aniketkarne/aco-prompt-shieldStop prompt injection prima che raggiungano il tuo LLM — zero costi API, funziona interamente in locale, si integra in 2 minuti. Prompt injection è…
jinxhy/awesome-moai-securityElenco di letture curato e tassonomia della ricerca su attacchi e difese per sistemi AI mobili su dispositivo, che copre attacchi avversari,…
safety-research/red-teaming-auto-modeResearch code for red-teaming AI auto-mode monitors, including simulation evals, fuzzing, and monitor implementations for Claude Code and Codex…
deep-jlu/skillpoisonPipeline di ricerca che costruisce esperienze di successo verificate e le organizza in registri di formazione per avvelenare progressivamente le…
wang-yanting/agentwatcherAttribuzione del contesto causale e monitor basato su regole per la difesa LLM contro l'iniezione di prompt indiretta negli agenti LLM, raggiungendo…
mouna23/ai-driven-mitre-attackQuesto repository mostra una pipeline di machine learning per rilevare le tecniche MITRE ATT&CK dai log e arricchire l'output utilizzando un LLM…
mdshoaibuddinchanda/zombieguardRilevamento basato su ML di attacchi di evasione dell'intestazione degli archivi Zombie ZIP (CVE-2026-0866)
abhinavdubey30/perturbed-embedding-vectorsCodice, log delle risposte ed etichette per il paper Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
ye-ze-yu/epireal-benchBenchmark di red-teaming e framework di attacco black-box per valutare i rischi di disinformazione visiva nei generatori di immagini commerciali, con…
q-rz/saffronScaling dell'inferenza per la garanzia di sicurezza dei LLM
multimodal-ai-lab/tobacToken per Token, Compromesso: Vulnerabilità Backdoor nei Modelli Autoregressivi Unificati (NeurIPS'26)
canonicalmg/reverse-captcha-evalFramework di valutazione che verifica se i modelli linguistici di grandi dimensioni seguono istruzioni invisibili codificate in Unicode, incorporate…
kevinchunye/prompt_injectionHarness di benchmark che misura dove si attivano le difese contro la prompt injection nelle pipeline di agenti LLM che utilizzano strumenti,…
clearlotus-git/cve-2024-37054-pocRepository proof-of-concept e di ricerca per CVE-2024-37054, una vulnerabilità di deserializzazione non sicura nel caricamento dei modelli MLflow…
