#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Flow Integrity Deterministic Enforcement System. Механизмы обеспечения безопасности ИИ-агентов с контролем информационных потоков.
[ICLR 2026] — Официальный репозиторий статьи: «RedBench: универсальный набор данных для всестороннего red teaming больших языковых моделей»

CVE-Factory

AGLS

Attack framework для взлома защит от prompt injection, основанных на fine-tuning (SecAlign, SecAlign++, StruQ), с использованием…

OpenAnt от Knostic — ведущий продукт с открытым исходным кодом для обнаружения уязвимостей на основе LLM, помогающий защитникам proactively находить…

Проект Mantis: Взлом ИИ-хакера; инъекция подсказок как защита от кибератак на основе LLM

Масштабирование инференса для обеспечения безопасности LLM

Новая состязательная атака на LLM, основанная на методе экспоненциального градиентного спуска.

Устойчивая к атакам архитектура глубокого обучения для безопасной indoor-локализации в сетях 5G, объединяющая CNN и multi-head attention для защиты…

Исследовательская демонстрация атак с непрямой инъекцией промптов для управления автономными веб-агентами на основе LLM, с инструментами для…

Код для статьи Certified Unlearning for Neural Networks, ICML 2025

Код для ACM MM2024 (Мультимодальные необучаемые примеры: защита данных от мультимодального контрастивного обучения)

StealthRL: фреймворк RL для состязательного перефразирования текста ИИ, предназначенный для стресс-тестирования устойчивости детекторов.

[NeurIPS 2025] Официальный исходный код для статьи «GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning».

[NeurIPS '25] Код для статьи «IF-Guide: подавление вредных обучающих данных с помощью функций влияния для снижения токсичности LLM»

Pre-install security for AI agents, npm packages, and MCP servers. Zero-dep local static analysis; normal scans never execute package code.

Официальный репозиторий для CTFTiny