#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

Фреймворк тонкой настройки, который применяет первопорядковую оптимальную калибровку безопасности и периодическую перекалибровку к LLM, сохраняя…

Токен за токеном, скомпрометированы: уязвимости бэкдоров в единых авторегрессионных моделях (NeurIPS'26)

Исследовательская реализация Hop-Decayed Influence (HDI) и фреймворка атаки 3S, выявляющая уязвимости структурного вспомогательного индексирования в…

Безопасность LLM: анализ того, как дообучение смещает поведение отказа, и оценка защит на основе замораживания слоёв и низкоранговых защит.

Исследовательская реализация для смягчения адаптивных инъекций промптов с помощью on-policy дистилляции, включающая рецепты обучения и средства…

Фреймворк защиты, который смягчает вредоносное дообучение LLM с помощью выборочного восстановления слоёв и динамической маршрутизации, со скриптами…

Перехватчик режима ядра, который перехватывает, расшифровывает и обнуляет трафик отчётов BEDaisy-to-service, чтобы подавить обнаружение античита на…

Сканер безопасности для файлов моделей ИИ/МО. Обнаруживает вредоносный код, бэкдоры и уязвимости до развертывания.

Обходит текстовые водяные знаки LLM, внедряя селекторы вариантов Unicode; включает генератор SynthID, детектор mean-g, защиту от нормализации и…

Пакет с открытым исходным кодом для текстовой состязательной атаки.

Исследовательский конвейер, который конструирует проверенные успешные примеры и организует их в записи формирования, чтобы постепенно отравлять…

Фреймворк защиты, который сохраняет аудио-языковые модели замороженными и добавляет среднеуровневый шлюз риска с адаптерами безопасности поздних…

Бенчмарк для оценки безопасности ИИ-агентов против атак, встроенных в контекст, с которым работают навыки, включающий 155 сценариев в 6 областях…

Бенчмаркинг обнаружения prompt-инъекций для веб-агентов.

Полевое руководство по Red Team для AI / LLM и справочник консультанта

Syntactic Ghost: Незаметная универсальная бэкдор-атака на предварительно обученные языковые модели

Сканер безопасности для ваших агентных LLM-процессов

Обнаруживает атаки утечки контекста LLM путём обучения лёгких поведенческих зондов на log-вероятностях, с конвейерами обнаружения vLLM offline/server.