Фреймворк с открытым исходным кодом для red-teaming генеративных ИИ-систем: автоматизируйте атакующие промпты, оценивайте ответы моделей и проводите аудит поведения для выявления рисков для защищённости и безопасности.
PyRIT (Python Risk Identification Tool for generative AI) — это открытый набор инструментов для выявления слабых мест в области безопасности и защищённости генеративных ИИ-систем с помощью автоматизированных сканирований, адаптивных многоходовых атак и тестирования с участием человека.
Созданный командой Microsoft AI Red Team и открытым сообществом участников, PyRIT объединяет в одном наборе инструментов сканер командной строки, графический интерфейс и расширяемый Python-фреймворк.
Чтобы принять участие, вам не нужно быть сотрудником Microsoft или опытным специалистом по red teaming. Присоединяйтесь к нашему сообществу в Discord, чтобы задавать вопросы, обмениваться методиками, делиться тем, что вы создаёте, и общаться с мейнтейнерами и другими пользователями.
Вклад включает код, документацию, примеры, отчёты об ошибках, тестирование и обратную связь из реального использования. Прочитайте руководство для участников и изучите задачи с меткой "help wanted".
Начать работу | Присоединиться к Discord | Прочитать whitepaper
Посетите наш сайт, чтобы узнать об установке, настройке, демонстрациях и документации. Используйте выбор версии, чтобы привести документацию в соответствие с вашей установкой; приведённые выше руководства относятся к последней версии в разработке.
Подключайтесь к OpenAI, Anthropic, Azure OpenAI, Microsoft Foundry, Azure Machine Learning, Google Gemini, Google Vertex AI, AWS Bedrock, Hugging Face, Ollama, Groq, OpenRouter, Cohere и GitHub Copilot.
Используйте API, совместимые с OpenAI, или встроенные цели, либо установите дополнительный адаптер LiteLLM для интеграции с другими провайдерами. См. руководство по настройке провайдеров и каталог провайдеров LiteLLM для настройки и получения сведений о других провайдерах. Доступные возможности зависят от цели и модели.
Тестируйте полноценные приложения и другие эндпоинты через HTTP, WebSockets, автоматизацию браузера с помощью Playwright или пользовательские цели.
Прочитайте PyRIT: Democratizing AI Red Teaming Through Open-Source Tooling,
чтобы узнать о принципах проектирования и практическом опыте, лежащих в основе набора инструментов.
Если вы используете PyRIT в своих исследованиях, пожалуйста, цитируйте статью с помощью
CITATION.cff.
Чтобы конфиденциально сообщить об уязвимостях в PyRIT через Microsoft Security Response Center, следуйте нашей политике безопасности.
Этот проект может содержать товарные знаки или логотипы проектов, продуктов или услуг. Авторизованное использование товарных знаков или логотипов Microsoft регулируется и должно соответствовать Руководству по товарным знакам и брендам Microsoft. Использование товарных знаков или логотипов Microsoft в изменённых версиях этого проекта не должно вводить в заблуждение или подразумевать спонсорство со стороны Microsoft. Использование товарных знаков или логотипов третьих сторон регулируется политиками этих третьих сторон.
