#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

Эксплуатационный сервер для out-of-band находок. Направьте цель на домен, которым вы владеете. Каждый HTTP-запрос и каждое письмо, которые он…

Фреймворк для атаки с использованием группового накручивания репутации на основе LLM-агентов, который манипулирует ранжированием рекомендательных…

Структурированная база знаний, охватывающая основы безопасности ИИ, моделирование угроз, наступательные методы красной команды и защитные меры синей…

Код исследования атак отравления на PGM-index, демонстрирующий, как создавать состязательные данные для деградации производительности обученных…

Каркас эволюционного поиска с учётом траекторий для red-teaming LLM-агентов на MCP-серверах, генерирующий состязательные промпты для картирования…

Black-box фреймворк для атак, который перехватывает процесс рассуждения в агентных системах генерации с дополненной выборкой (retrieval-augmented…

Исследовательская реализация атаки отравлением на языковые модели с дополненной генерацией (RAG) с использованием замаскированных документов для…

Бенчмарк для оценки безопасности ИИ-агентов против атак, встроенных в контекст, с которым работают навыки, включающий 155 сценариев в 6 областях…

Обход ограничений LLM путём запутывания его сфабрикованным выводом инструментов.

Многоступенчатая техника инъекции в промпты, которая обходит защитные механизмы LLM через переназначение идентичности, подавление отказов и…

Исследовательская реализация для смягчения адаптивных инъекций промптов с помощью on-policy дистилляции, включающая рецепты обучения и средства…

Порт GodPotato на Crystal для злоупотребления SeImpersonatePrivilege с помощью косвенных системных вызовов, динамического разрешения API и обфускации…

Библиотека Python для безопасности машинного обучения с учётом состязательных атак, позволяющая красным и синим командам запускать атаки и защиты на…

Библиотека состязательных примеров для построения атак, создания защит и сравнительного тестирования тех и других.

Python-инструментарий для создания состязательных примеров, которые обманывают нейронные сети в PyTorch, TensorFlow и JAX

Защита от атак на сериализацию моделей

Алгоритмы обнаружения выбросов, состязательных атак и дрейфа

Сканер безопасности для ваших агентных LLM-процессов