#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Чек-лист безопасности перед запуском для приложений, созданных ИИ (Lovable, v0, Bolt, Cursor). 69 проверок, охватывающих Supabase RLS, раскрытые…

Единая панель мониторинга для мониторинга, управления и аудита AI-агентов в реальном времени. Контролируйте бюджеты, выявляйте нарушения политик и…

Многоуровневый детектор инъекций в промпты (prompt injection) для AI-приложений, использующий эвристики, анализ на основе LLM, сигнатуры атак на…

ИИ-ассистент для тестирования на проникновение, использующий локальную LLM на linux (Parrot OS)

A curated knowledge base to build, run and mature a SOC (including CSIRT).

Стандарт проверки безопасности ИИ (AISVS) направлен на предоставление разработчикам, архитекторам и специалистам по безопасности структурированного…

Современный киберполигон с 50 практическими заданиями по направлениям безопасности: веб, API, облачные технологии, ИИ и blue-team. Включает…

Сетевой протокол оверлейной сети, предоставляющий AI-агентам постоянные адреса, аутентифицированные зашифрованные туннели и модель доверия поверх…

Бенчмарк из 265 реальных изменений кода, вносящих уязвимости, в девяти проектах на C, C++ и Rust, с парными задачами на ревью, песочницей Docker,…

Платформа для обнаружения и устранения уязвимостей с помощью ИИ, включающая агент-эндпоинт на Go, централизованную панель управления и движок анализа…

Безопасный постоянный персональный сервер агента на Rust. Один бинарный файл, изолированное выполнение, многопровайдерные LLM, голос, память,…

обратная разработка SynthID для текста

Исследовательские материалы для LLM-агента на основе MCP, который автономно решает задачи CTF, включая данные абляции, скрипты анализа и стек MCP из…

Исследование постоянных prompt-инъекций через функции памяти в Claude, Gemini и ChatGPT, включающее шаги воспроизведения, наборы данных и…

Инструмент исследования уязвимостей ядра Linux с учётом происхождения данных, использованный при расследовании CVE-2026-53075

Курируемый список литературы и таксономия исследований атак и защиты для мобильных бортовых систем ИИ, охватывающие состязательные атаки, атаки с…

Исправления безопасности для неисправленных уязвимостей llama.cpp (с CVE-2026-43626 по CVE-2026-43632) — Cyera Research

EmailXpose — это система безопасности электронной почты с открытым исходным кодом на базе искусственного интеллекта, которая обнаруживает фишинг,…