#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

Среда бенчмаркинга для оценки AI-агентов, работающих с компьютером, на устойчивость к многошаговым косвенным инъекциям промптов, с автоматической…

Выполнение косвенных чистых системных вызовов

Преднамеренно уязвимая модель машинного обучения для практического обучения безопасности. Исследуйте распространенные уязвимости ML, состязательные…

Среда моделирования противника на основе плейбуков, которая компилирует пути атак, определённые в JSON, в позиционно-независимые полезные нагрузки…

Исследовательский код, реализующий методы атак и защиты с использованием бэкдоров для LLM, включая алгоритмы IBSD, SLIP, BeDKD и BadApex.

Исследовательский пайплайн, реализующий визуально-контекстный джейлбрейк против мультимодальных LLM: извлечение промптов T2I, рендеринг изображений…

Фиолетовая команда: структура упражнений

NimicStack — это чистая реализация на Nim техники подделки стека вызовов (Call Stack Spoofing) для имитации легитимных программ.

Windows Defender Killer | Отключение на основе реестра + завершение процессов через BYOVD (C++)

Атрибуция причинного контекста и основанный на правилах монитор LLM для защиты от косвенных инъекций промптов в LLM-агентах, достигающий современного…

Каркас эволюционного поиска с учётом траекторий для red-teaming LLM-агентов на MCP-серверах, генерирующий состязательные промпты для картирования…

Python Risk Identification Tool for generative AI (PyRIT) — это фреймворк с открытым исходным кодом, созданный для того, чтобы помочь специалистам по…

AGLS

CEREBRO-RED v2: Продвинутая платформа для исследований LLM Red Team с алгоритмом PAIR и оценкой LLM-as-a-Judge

Консоль для атак с использованием инъекций промптов с открытым исходным кодом. Проверяйте безопасность ИИ, запуская категоризированные атаки на любую…

Структурированная база знаний, охватывающая основы безопасности ИИ, моделирование угроз, наступательные методы красной команды и защитные меры синей…

Исследовательская реализация Hop-Decayed Influence (HDI) и фреймворка атаки 3S, выявляющая уязвимости структурного вспомогательного индексирования в…

Attack framework для взлома защит от prompt injection, основанных на fine-tuning (SecAlign, SecAlign++, StruQ), с использованием…