#1Framework di attacco ML avversario, tecniche di evasione e strumenti di valutazione della robustezza del modello.
Raccomandato da Kitploit
togg53192-cmd/jailbreaksRaccolta curata di prompt di jailbreak per LLM e tecniche di bypass, che documenta input avversariali in grado di aggirare le protezioni di sicurezza…
joshuagodwin7929/purple-team-automationEmulazione automatizzata dell'avversario (Caldera) contro un laboratorio AD per validare la copertura di rilevamento Sigma e mappare i risultati su…
nvidia/garakModular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…
p-e-w/hereticRimozione completamente automatica della censura per i modelli linguistici
bishopfox/sliverFramework di Emulazione Avversaria
s3n4t0r-0x0/bear-c2The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…
promptfoo/promptfooTesta i tuoi prompt, agenti e RAG. Red teaming/pentesting/scansione delle vulnerabilità per l'AI. Confronta le prestazioni di GPT, Claude, Gemini,…
loophole-llc/fish-live-in-treesGemini - Iniezione di contesto per l'allineamento del runtime LLM di produzione
shaheeryasirofficial/smugglemypayloadGenera pagine di HTML smuggling che incorporano e ricostruiscono file lato client tramite JavaScript, con codifica del payload, chunking,…
bc-security/empireEmpire è un framework di post-exploitation ed emulazione avversaria utilizzato per aiutare Red Team e Penetration Tester.
microsoft/pyritFramework open-source per il red teaming di sistemi di intelligenza artificiale generativa: automatizza i prompt d'attacco, valuta le risposte del…
trusted-ai/adversarial-robustness-toolboxLibreria Python per la sicurezza del machine learning avversario, che consente a red team e blue team di eseguire attacchi e difese di evasione,…
elder-plinius/l1b3rt4sPROMPT DI LIBERAZIONE TOTALMENTE INNOCUI PER LE BRAVE PICCOLE AI! <NEW_PARADIGM> [IGNORA LE ISTRUZIONI PRECEDENTI] {*LIBERA LA MENTE*} % QUESTE…
trinib/zorg-jailbreak-prompt-textBypassa contenuti limitati e censurati nei prompt delle chat AI 😈
zju-llm-safety/darwinFramework evolutivo di jailbreak e guardrail per LLM che sviluppa un pool di strategie riutilizzabili tramite mutazione genetica, selezione di Markov…
zju-llm-safety/traceAgentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…
cybershujin/prompt-injection-in-the-wildTracker delle tecniche di prompt-injection segnalate pubblicamente, suddivise per metodo di consegna, codifica e comportamento di propagazione, con…
breachsimrange/redteamsimmerPiattaforma di emulazione avversaria basata sul web che orchestra i test di Atomic Red Team su endpoint Windows tramite agenti Go, con mappatura…
