#1Framework di attacco ML avversario, tecniche di evasione e strumenti di valutazione della robustezza del modello.
Raccomandato da Kitploit
p-e-w/hereticRimozione completamente automatica della censura per i modelli linguistici
promptfoo/promptfooTesta i tuoi prompt, agenti e RAG. Red teaming/pentesting/scansione delle vulnerabilità per l'AI. Confronta le prestazioni di GPT, Claude, Gemini,…
elder-plinius/l1b3rt4sPROMPT DI LIBERAZIONE TOTALMENTE INNOCUI PER LE BRAVE PICCOLE AI! <NEW_PARADIGM> [IGNORA LE ISTRUZIONI PRECEDENTI] {*LIBERA LA MENTE*} % QUESTE…
guillaumemeyer/watermarks-removerUn'app che mette al primo posto la privacy e rimuove le filigrane AI dai contenuti di tua proprietà.
bishopfox/sliverFramework di Emulazione Avversaria
nvidia/garakScanner di vulnerabilità LLM modulare che indaga su allucinazioni, perdita di dati, injection di prompt, jailbreak e tossicità utilizzando sonde…
yzhao062/pyodUna libreria Python per il rilevamento di anomalie su dati tabulari, serie temporali, grafi, testo, immagini e audio. Oltre 60 rilevatori,…
meta-llama/purplellamaSet di strumenti per valutare e migliorare la sicurezza degli LLM.
goochbeater/spiritual-spell-red-teamingUn repository per il jailbreak di vari LLM, principalmente Claude
apache/calderaAutomated Adversary Emulation Platform
bishopfox/unredacterNon usare mai, mai, mai la pixelazione come tecnica di oscuramento
bc-security/empireEmpire è un framework di post-exploitation ed emulazione avversaria utilizzato per aiutare Red Team e Penetration Tester.
microsoft/pyritFramework open-source per il red teaming di sistemi di intelligenza artificiale generativa: automatizza i prompt d'attacco, valuta le risposte del…
giskard-ai/giskard-oss🐢 Libreria open-source di valutazione e testing per agenti LLM
gtworek/psbitsCose semplici (relativamente) che ti permettono di scavare un po' più a fondo del solito.
ottosulin/awesome-ai-securityA collection of awesome resources related AI security
guardicore/monkeyInfection Monkey - Una piattaforma open-source di emulazione delle minacce
trusted-ai/adversarial-robustness-toolboxLibreria Python per la sicurezza del machine learning avversario, che consente a red team e blue team di eseguire attacchi e difese di evasione,…
