#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit
qybaihe/blaУкрепляет бинарные файлы, Electron ASAR, JS, WASM, Python и файлы моделей против агентов ИИ-реверс-инжиниринга с помощью приманок в метаданных,…
nshalabi/attack-toolsРеляционная модель данных SQLite для MITRE ATT&CK плюс инструмент планирования эмуляции противника, дополненный тестами Red Canary ATOMIC и планами…
requie/ai-red-teaming-guideКомплексное руководство по состязательному тестированию и оценке безопасности систем ИИ, помогающее организациям выявлять уязвимости до того, как их…
amirsafiallah/dhcpfloodИнструмент на C++ с использованием libtins для создания и широковещательной рассылки DHCP-запросов со случайными MAC-адресами в пределах пула…
ukanwat/guardrebindИсследовательский код, бенчмарк и защита от атак перепривязки цели, которые обманом заставляют защитные механизмы безопасности LLM оценивать…
suels-group/beyond_asrИсследовательский код для измерения показателей успешности атак типа jailbreak (ASR и пошаговый ASR) против LLM, включая реализации таких атак, как…
pedrobarcha/memory-injectionИсследование постоянных prompt-инъекций через функции памяти в Claude, Gemini и ChatGPT, включающее шаги воспроизведения, наборы данных и…
lassnajmuldeen/balcony-jailbreakingУязвимость джейлбрейка на разных глубинах раннего выхода LLM. Опубликовано на NeurIPS 2026 в рамках воркшопа FLMSec
ericyoc/ai-security-literacyВоспроизводимый конвейер Colab, который обосновывает шесть измерений компетенций AI Security Literacy на основе публичных бенчмарков и микроданных…
thuname/tedИсследовательский артефакт с конференции USENIX Security 2026, демонстрирующий DDoS-атаки путём злоупотребления туннельными узлами и заголовками…
pixee/compaction-launderingИсследование безопасности сжатия контекста в кодирующих агентах: показывает, как поддельные метки ролей в недоверенном содержимом переживают…
lsudoko/antibodyЦикл DevSecOps GitLab Duo, в котором второй ИИ повторно атакует каждое исправление, написанное ИИ, сохраняя каждый успешный обход как постоянное…
hanxi19/black_hole_attack_for_vector_databaseИсследовательская реализация атаки «чёрная дыра», которая отравляет индексы векторных баз данных через управляемую центральностью хабность, с…
gmh5225/llm-attack-promptДжейлбрейки, утечки промптов, промпт-инъекции, атаки на LLM. Коллекция промптов для атак на большие языковые модели
ye-ze-yu/epireal-benchБенчмарк для ред-тиминга и фреймворк для атак типа «чёрный ящик», предназначенный для оценки рисков визуальной дезинформации в коммерческих…
phil-fan/fs-attackРеализация статьи «Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model»
multimodal-ai-lab/tobacТокен за токеном, скомпрометированы: уязвимости бэкдоров в единых авторегрессионных моделях (NeurIPS'26)
moontea0416/webmirageСостязательные атаки с использованием изображений на визуально-языковых веб-агентов: от визуальной привязки до выполнения в браузере
