Framework open-source per il red teaming di sistemi di intelligenza artificiale generativa: automatizza i prompt d'attacco, valuta le risposte del modello e verifica il comportamento per identificare rischi di sicurezza e di safety.
PyRIT (Python Risk Identification Tool for generative AI) è un toolkit open-source per individuare debolezze di sicurezza e di safety nei sistemi di AI generativa tramite scansioni automatizzate, attacchi adattivi multi-turn e test condotti da operatori umani.
Sviluppato dal Microsoft AI Red Team e da una community open-source di contributori, PyRIT riunisce in un unico toolkit uno scanner da riga di comando, un'interfaccia grafica e un framework Python estensibile.
Non è necessario essere dipendenti Microsoft o red teamer esperti per partecipare. Unisciti alla nostra community Discord per porre domande, scambiare tecniche, condividere ciò che stai costruendo e connetterti con i maintainer e gli altri utenti.
I contributi includono codice, documentazione, esempi, segnalazioni di bug, test e feedback derivante dall'uso reale. Leggi la guida per i contributori ed esplora le issue etichettate "help wanted".
Per iniziare | Unisciti a Discord | Leggi il whitepaper
Visita il nostro sito web per installazione, configurazione, demo e documentazione. Usa il selettore di versione per allineare la documentazione alla tua installazione; le guide sopra riportate seguono l'ultima versione di sviluppo.
Connettiti a OpenAI, Anthropic, Azure OpenAI, Microsoft Foundry, Azure Machine Learning, Google Gemini, Google Vertex AI, AWS Bedrock, Hugging Face, Ollama, Groq, OpenRouter, Cohere e GitHub Copilot.
Usa API compatibili con OpenAI o target integrati, oppure installa l'adattatore opzionale LiteLLM per ulteriori integrazioni con provider. Consulta la guida alla configurazione dei provider e la directory dei provider LiteLLM per la configurazione e altri provider. Le funzionalità disponibili dipendono dal target e dal modello.
Testa applicazioni complete e altri endpoint tramite HTTP, WebSockets, automazione del browser con Playwright, oppure target personalizzati.
Leggi PyRIT: Democratizing AI Red Teaming Through Open-Source Tooling
per i principi di progettazione e l'esperienza sul campo alla base del toolkit.
Se utilizzi PyRIT nella tua ricerca, cita il paper usando
CITATION.cff.
Per segnalare vulnerabilità in PyRIT privatamente tramite il Microsoft Security Response Center, segui la nostra politica di sicurezza.
Questo progetto può contenere marchi o loghi di progetti, prodotti o servizi. L'uso autorizzato dei marchi o dei loghi Microsoft è soggetto e deve conformarsi alle Linee guida sui marchi e sull'immagine di Microsoft. L'uso dei marchi o dei loghi Microsoft in versioni modificate di questo progetto non deve creare confusione o implicare una sponsorizzazione da parte di Microsoft. Qualsiasi uso di marchi o loghi di terze parti è soggetto alle politiche di tali terze parti.
