#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Алгоритмы обнаружения выбросов, состязательных атак и дрейфа
RAG-система OWASP Web Security Testing Guide с ChromaDB, MCP для Claude Code

Новая состязательная атака на LLM, основанная на методе экспоненциального градиентного спуска.

сканер безопасности для кастомных LLM-приложений

CAWODOG — это проект proof-of-concept, демонстрирующий, как защитить модели ИИ на Python, развёрнутые на офлайн-промышленных машинах. На трёх…

Эксплойт proof-of-concept для CVE-2025-32434, уязвимости десериализации pickle в режиме weights_only в PyTorch, демонстрирующий создание и выполнение…

Расширение Burp Suite Repeater, которое автоматически мутирует полезные нагрузки и анализирует ответы для выявления обхода пути, SQL-инъекций, XSS и…

Мой манифест, истории, изображения и прикольные штуки

[ICCV 2025] Защита от несанкционированного вмешательства при неавторизованной генерации изображений конкретных лиц

Репозиторий кода для проекта CS5446, исследующего защиту от jailbreak-атак на большие языковые модели. Включает наборы данных, блокноты, скрипты для…

Артефакты для записи в блоге о поиске CVE-2025-37899 с помощью o3

Чёрный ящик подход к оптимизации для защиты системных промптов больших языковых моделей (LLM) от атак состязательного извлечения.

[NeurIPS '25] Код для статьи «IF-Guide: подавление вредных обучающих данных с помощью функций влияния для снижения токсичности LLM»

Программная реализация «Pattern Enhanced Multi-Turn Jailbreaking: Exploiting Structural Vulnerabilities in Large Language Models»

Автоматизированный фреймворк для перехвата механизмов безопасного рассуждения в больших моделях рассуждений с помощью смоделированных трассировок…

AI Red Teaming — игровая площадка для лабораторных работ по проведению тренировок по AI Red Teaming, включая инфраструктуру.

Исследовательский код и эксперименты для защиты LLM-агентов с интеграцией инструментов от состязательных атак, расширяющие Agent Security Bench…

Бенчмарк для оценки рисков безопасности агентов, использующих компьютер, с 104 реалистичными сценариями злоупотребления в семи вредоносных…