#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Сканируйте выводы LLM и контент, сгенерированный ИИ, на наличие сигналов эксфильтрации данных (EchoLeak, CVE-2025-32711), прежде чем они попадут к…

Исследовательский код и набор данных (WSD) для оценки влияния аудио-водяных знаков на анти-спуфинг с использованием wav2vec2 XLS-R и обучения с…

Этот репозиторий содержит официальную реализацию POISONCRAFT: практическое отравление генерации с дополненной выборкой (RAG) для больших языковых…

Реализация искажающего свободного текстового водяного знака на основе оптимальной связи для встраивания обнаруживаемых сигналов в текст,…

Ансамблевый фреймворк для обнаружения и исправления уязвимостей программного обеспечения с использованием нескольких больших языковых моделей, с…

[CVPR 2025-ADVML] Официальный репозиторий для `Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks`

Автоматизированный фреймворк для перехвата механизмов безопасного рассуждения в больших моделях рассуждений с помощью смоделированных трассировок…

Программная реализация «Pattern Enhanced Multi-Turn Jailbreaking: Exploiting Structural Vulnerabilities in Large Language Models»

Запрещённые предметы: сегментация на основе моделирования двух слоёв с учётом окклюзий (ICME 2025)

[ICCV 2025] Защита от несанкционированного вмешательства при неавторизованной генерации изображений конкретных лиц

Исследовательский код, реализующий методы атак и защиты с использованием бэкдоров для LLM, включая алгоритмы IBSD, SLIP, BeDKD и BadApex.

Реализация статьи «DeeCLIP: A Robust and Generalizable Transformer-Based Framework for Detecting AI-Generated Images»

Прокси безопасности для ИИ-агентов. Сканирует каждое сообщение на предмет промпт-инъекций, PII и секретов. Эшелонированная защита: Go-прокси +…

Официальный код для статьи ISSTA 2026: Достаточно ли «знать, что это вредоносное ПО»? Оценка LLM для детального аудита поведения вредоносных программ

PISmith: Red Teaming на основе обучения с подкреплением для защиты от промпт-инъекций

# Лаборатория обнаружения Sentinel для цепочек атак MCP: CVE-2026-26118 кража токенов через SSRF, отравление инструментов, межсерверная…

Код для «Управление цензурой: выявление векторов представлений для контроля „мыслей“ LLM»

CVPR2023: Необучаемые кластеры: к необучаемым примерам, не зависящим от меток