#1Framework di attacco ML avversario, tecniche di evasione e strumenti di valutazione della robustezza del modello.
Raccomandato da Kitploit
matheusht/redthreadUn motore autonomo di red-teaming per LLM. RedThread gestisce l'intero ciclo di vita della sicurezza: generando attacchi avversari, eseguendo…
promptfoo/promptfooTesta i tuoi prompt, agenti e RAG. Red teaming/pentesting/scansione delle vulnerabilità per l'AI. Confronta le prestazioni di GPT, Claude, Gemini,…
bishopfox/sliverFramework di Emulazione Avversaria
nvidia/garakModular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…
microsoft/pyritFramework open-source per il red teaming di sistemi di intelligenza artificiale generativa: automatizza i prompt d'attacco, valuta le risposte del…
p-e-w/hereticRimozione completamente automatica della censura per i modelli linguistici
misp/misp-galaxyClusters and elements to attach to MISP events or attributes (like threat actors)
ottosulin/awesome-ai-securityA collection of awesome resources related AI security
s3n4t0r-0x0/apts-adversary-simulationQuesto repository contiene campagne APT di simulazione avversaria dettagliate che prendono di mira vari settori critici. Ogni simulazione include…
breachsimrange/redteamsimmerPiattaforma di emulazione avversaria basata sul web che orchestra i test di Atomic Red Team su endpoint Windows tramite agenti Go, con mappatura…
microsoft/responsible-ai-toolboxDashboard interattive e librerie per il debugging responsabile di modelli di IA, che comprendono analisi degli errori, equità, interpretabilità,…
s3n4t0r-0x0/bear-c2The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…
pixee/compaction-launderingRicerca sulla sicurezza relativa alla compattazione del contesto negli agenti di programmazione: mostra come le etichette di ruolo falsificate in…
cybrly/badsuccessorSfrutta la vulnerabilità di escalation dei privilegi dMSA di Windows Server 2025 per enumerare OU scrivibili, escalare a utenti di dominio arbitrari,…
guillaumemeyer/watermarks-removerUn'app che mette al primo posto la privacy e rimuove le filigrane AI dai contenuti di tua proprietà.
meridianlabs-ai/inspect_petriUn agente di audit dell'allineamento in grado di esplorare rapidamente ipotesi di allineamento.
lsudoko/antibodyCiclo DevSecOps di GitLab Duo in cui una seconda IA attacca nuovamente ogni correzione scritta dall'IA, salvando ogni bypass riuscito come anticorpo…
mastyf-ai/mastyf.aiPiattaforma di sicurezza AI open-source che fornisce difesa perimetrale per LLM e agenti AI attraverso analisi degli sciami, applicazione delle…
