#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit
jiep/offensive-ai-compilationКурируемый список полезных ресурсов, охватывающих Offensive AI.
ottosulin/awesome-ai-securityКоллекция отличных ресурсов, связанных с безопасностью ИИ
togg53192-cmd/jailbreaksCurated collection of LLM jailbreak prompts and bypass techniques, documenting adversarial inputs that circumvent AI model safety guardrails.
guillaumemeyer/watermarks-removerПриложение с приоритетом приватности, которое удаляет AI-водяные знаки из вашего собственного контента.
mastyf-ai/mastyf.aiOpen-source AI security platform providing perimeter defense for LLMs and AI agents through swarm analysis, policy enforcement, adversarial testing,…
microsoft/pyritФреймворк с открытым исходным кодом для red-teaming генеративных ИИ-систем: автоматизируйте атакующие промпты, оценивайте ответы моделей и проводите…
p-e-w/hereticМодификация языковых моделей без обучения: удаление цензуры, подавление slop, снижение сикофантства и многое другое
promptfoo/promptfooТестируйте свои промпты, агенты и RAG. Red teaming/пентестинг/сканирование уязвимостей для ИИ. Сравнивайте производительность GPT, Claude, Gemini,…
misp/misp-galaxyКластеры и элементы для прикрепления к событиям или атрибутам MISP (например, субъекты угроз)
goochbeater/spiritual-spell-red-teamingРепозиторий для джейлбрейка различных LLM, в основном Claude
trusted-ai/adversarial-robustness-toolboxБиблиотека Python для безопасности машинного обучения с учётом состязательных атак, позволяющая красным и синим командам запускать атаки и защиты на…
hectorm/hblockПовысьте свою безопасность и конфиденциальность, блокируя рекламу, трекеры и вредоносные домены.
meta-llama/purplellamaНабор инструментов для оценки и повышения безопасности LLM.
rasta-mouse/crystal-kitEvasion kit для Cobalt Strike
qybaihe/blaУкрепляет бинарные файлы, Electron ASAR, JS, WASM, Python и файлы моделей против агентов ИИ-реверс-инжиниринга с помощью приманок в метаданных,…
datadog/stratus-red-team:cloud: :zap: Детальная и практичная эмуляция действий злоумышленника для облака
giskard-ai/giskard-oss🐢 Библиотека с открытым исходным кодом для оценки и тестирования LLM-агентов
requie/ai-red-teaming-guideКомплексное руководство по состязательному тестированию и оценке безопасности систем ИИ, помогающее организациям выявлять уязвимости до того, как их…
