#1Framework di attacco ML avversario, tecniche di evasione e strumenti di valutazione della robustezza del modello.
Raccomandato da Kitploit
ottosulin/awesome-ai-securityA collection of awesome resources related AI security
promptfoo/promptfooTesta i tuoi prompt, agenti e RAG. Red teaming/pentesting/scansione delle vulnerabilità per l'AI. Confronta le prestazioni di GPT, Claude, Gemini,…
microsoft/pyritFramework open-source per il red teaming di sistemi di intelligenza artificiale generativa: automatizza i prompt d'attacco, valuta le risposte del…
bishopfox/sliverFramework di Emulazione Avversaria
microsoft/responsible-ai-toolboxDashboard interattive e librerie per il debugging responsabile di modelli di IA, che comprendono analisi degli errori, equità, interpretabilità,…
s3n4t0r-0x0/bear-c2The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…
s3n4t0r-0x0/apts-adversary-simulationQuesto repository contiene campagne APT di simulazione avversaria dettagliate che prendono di mira vari settori critici. Ogni simulazione include…
pixee/compaction-launderingRicerca sulla sicurezza relativa alla compattazione del contesto negli agenti di programmazione: mostra come le etichette di ruolo falsificate in…
cybrly/badsuccessorSfrutta la vulnerabilità di escalation dei privilegi dMSA di Windows Server 2025 per enumerare OU scrivibili, escalare a utenti di dominio arbitrari,…
guillaumemeyer/watermarks-removerUn'app che mette al primo posto la privacy e rimuove le filigrane AI dai contenuti di tua proprietà.
nvidia/garakModular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…
meridianlabs-ai/inspect_petriUn agente di audit dell'allineamento in grado di esplorare rapidamente ipotesi di allineamento.
lsudoko/antibodyCiclo DevSecOps di GitLab Duo in cui una seconda IA attacca nuovamente ogni correzione scritta dall'IA, salvando ogni bypass riuscito come anticorpo…
promptfoo/modelauditScanner di sicurezza per file di modelli AI/ML. Rileva codice dannoso, backdoor e vulnerabilità prima della distribuzione
p-e-w/hereticRimozione completamente automatica della censura per i modelli linguistici
giskard-ai/giskard-oss🐢 Libreria open-source di valutazione e testing per agenti LLM
owasp/aisvsThe AI Security Verification Standard (AISVS) focuses on providing developers, architects, and security professionals with a structured checklist to…
dovughs/mora-hwbpMotore di hooking in modalità utente senza patch e di strumentazione di telemetria basato su hardware breakpoint (DR0-DR7) (AMSI, WLDP e ETW PoC).
