
Framework open-source per il red teaming di sistemi di intelligenza artificiale generativa: automatizza i prompt d'attacco, valuta le risposte del modello e verifica il comportamento per identificare rischi di sicurezza e di safety.

Lo strumento Python di identificazione dei rischi per l'IA generativa (PyRIT) è un framework open source progettato per consentire a professionisti della sicurezza e a ingegneri di identificare in modo proattivo i rischi nei sistemi di IA generativa.
Questo progetto può contenere marchi o loghi relativi a progetti, prodotti o servizi. L'uso autorizzato dei marchi o dei loghi Microsoft è soggetto a e deve seguire le Linee guida su marchi e brand di Microsoft. L'uso dei marchi o dei loghi Microsoft in versioni modificate di questo progetto non deve creare confusione né far intendere una sponsorizzazione da parte di Microsoft. Qualsiasi utilizzo di marchi o loghi di terze parti è soggetto alle politiche di tali terze parti.
Se utilizzi PyRIT nella tua ricerca, cita lo strumento stesso seguendo il file CITATION.cff nella root di questo repository.