#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

Исследовательский код для Rubric-Induced Preference Drift (RIPD): эволюционный поиск рубрик, отбор с сохранением бенчмарка и оценка рассогласования…

Библиотека состязательных примеров для построения атак, создания защит и сравнительного тестирования тех и других.

:cloud: :zap: Детальная и практичная эмуляция действий злоумышленника для облака

Инструментарий телеметрии и симуляции для purple-команды.

Каркас эволюционного поиска с учётом траекторий для red-teaming LLM-агентов на MCP-серверах, генерирующий состязательные промпты для картирования…

Исследовательская реализация атаки отравлением на языковые модели с дополненной генерацией (RAG) с использованием замаскированных документов для…

Исследовательский код, реализующий T-Backdoor — атаки с временным триггером типа «бэкдор» на спайковые нейронные сети с использованием триггеров по…

Защита от атак на сериализацию моделей

Атрибуция причинного контекста и основанный на правилах монитор LLM для защиты от косвенных инъекций промптов в LLM-агентах, достигающий современного…

Алгоритмы обнаружения выбросов, состязательных атак и дрейфа

Упрощенный канал управления и контроля на основе FTP для соединения удаленных систем.

обратная разработка обнаружения SynthID от Gemini

PoCs и инструменты для исследования техник выполнения процессов Windows

Исследовательский код, воспроизводящий эксперименты по многоходовому джейлбрейку LLM (FITD, MRCJ, ActorAttack, X-Teaming) из статьи SoK по…

Воспроизводимый конвейер Colab, который обосновывает шесть измерений компетенций AI Security Literacy на основе публичных бенчмарков и микроданных…

Эксперименты по подавлению цепочки рассуждений с помощью управляющих токенов и атакам на снисходительность парсера в LLM-агентах, использующих…

Уязвимость высокого уровня серьезности, связанная с инъекцией промптов в Claude AI, доказывает, что даже самые умные языковые модели могут быть…

Порт GodPotato на Crystal для злоупотребления SeImpersonatePrivilege с помощью косвенных системных вызовов, динамического разрешения API и обфускации…