#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Память агентного ИИ с затуханием по кривой забывания Эббингауза. +16pp лучше запоминания, чем Mem0 на LoCoMo.
Обфускация против LLM через подсчет пальцев

Сканер безопасности для файлов моделей ИИ/МО. Обнаруживает вредоносный код, бэкдоры и уязвимости до развертывания.

Каркас для исследований выравнивания (в стиле автоисследований) для защиты LLM: поиск по одной поверхности policy.md

Сетевой протокол оверлейной сети, предоставляющий AI-агентам постоянные адреса, аутентифицированные зашифрованные туннели и модель доверия поверх…

Расширение Burp Suite, предоставляющее полный Montoya API в виде локального REST API с Swagger UI

Сканер механизмов персистентности macOS с проверкой цифровых подписей кода и отслеживанием временной шкалы.

Погружение в сферу безопасности LLM: исследование атакующих и оборонительных инструментов, раскрывающее их текущие возможности.

Примеры AI-агентных рабочих процессов и MCP-серверов для аудита исходного кода, сортировки проблем и обнаружения уязвимостей в веб-проектах, проектах…

Среда моделирования противника на основе плейбуков, которая компилирует пути атак, определённые в JSON, в позиционно-независимые полезные нагрузки…

Промышленный инструмент для атак методом жадного координатного градиента (GCG) на большие языковые модели (LLM)

Криптографически подписанный, воспроизводимо проверяемый уровень доказательств для ИИ-агентов. Управляет действиями в цикле, создает подписанные…

CVE-Factory

Песочница WASM с контролем возможностей для кода ИИ-агентов. Агенты могут вызывать только явно предоставленные инструменты с заданными ограничениями.…

Security training for the apps you actually ship. Open your browser and start hacking.

Открытый репозиторий для валидации агентных ИИ-приложений: redteam, поведение, цепочка поставок, статический анализ

Симуляционная платформа SOC с искусственным интеллектом

Проект Mantis: Взлом ИИ-хакера; инъекция подсказок как защита от кибератак на основе LLM