#1Framework di attacco ML avversario, tecniche di evasione e strumenti di valutazione della robustezza del modello.
Raccomandato da Kitploit
nvidia/garakModular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…
josh-blythe/bordair-multimodalOpen-source suite di test di iniezione dei prompt cross-modale e multimodale. Oltre 250.000 payload di attacco attraverso modalità testuali, visive,…
adityabhatt3010/cve-2025-54794-hijacking-claude-ai-with-a-prompt-injection-the-jailbreak-that-talked-backUna vulnerabilità di prompt injection ad alta gravità in Claude AI dimostra che anche i modelli linguistici più intelligenti possono essere…
aniketkarne/aco-prompt-shieldStop prompt injection prima che raggiungano il tuo LLM — zero costi API, funziona interamente in locale, si integra in 2 minuti. Prompt injection è…
meridianlabs-ai/inspect_petriUn agente di audit dell'allineamento in grado di esplorare rapidamente ipotesi di allineamento.
fallen-angel-systems/fas-judgement-ossConsole open-source per attacchi di prompt injection. Testa la sicurezza dell'IA lanciando attacchi categorizzati su qualsiasi endpoint.
canonicalmg/reverse-captcha-evalFramework di valutazione che verifica se i modelli linguistici di grandi dimensioni seguono istruzioni invisibili codificate in Unicode, incorporate…
jpoindexter/interrogation-gameGioco investigativo basato sulla voce. Mistral Large 3 + Voxtral STT + ElevenLabs TTS. Realizzato per il Mistral Worldwide Hackathon 2026.
acedef/synthaptFramework di simulazione avversaria basato su playbook che compila percorsi di attacco definiti in JSON in payload shellcode indipendenti dalla…
ottosulin/awesome-ai-securityA collection of awesome resources related AI security
0xsojalsec/uncensored-aiRimozione automatica completa della censura per modelli linguistici
funnywolf/viperPiattaforma di simulazione avversaria e Red teaming con AI
promptfoo/promptfooTesta i tuoi prompt, agenti e RAG. Red teaming/pentesting/scansione delle vulnerabilità per l'AI. Confronta le prestazioni di GPT, Claude, Gemini,…
cchio/deep-pwningMetasploit per l'apprendimento automatico.
govolution/avetStrumento di evasione antivirus
nextronsystems/aptsimulatorUn set di strumenti per far sembrare che un sistema sia stato vittima di un attacco APT.
uber-common/mettaUno strumento di preparazione alla sicurezza informatica per la simulazione di attacchi avversari.
endgameinc/rtaFramework scriptato per simulare oltre 50 tecniche MITRE ATT&CK per testare le capacità di rilevamento del blue team. Include script Python e un…
