#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

cMCP: Конфиденциальный MCP-шлюз. Аппаратно-аттестованное применение политик для вызовов инструментов MCP.
Прокси безопасности для ИИ-агентов. Сканирует каждое сообщение на предмет промпт-инъекций, PII и секретов. Эшелонированная защита: Go-прокси +…

Инвентаризация AI во время выполнения: обнаружение теневого AI, трассировка вызовов LLM

Обходит текстовые водяные знаки LLM, внедряя селекторы вариантов Unicode; включает генератор SynthID, детектор mean-g, защиту от нормализации и…

Трассировки решений LLM-агентов, таблицы лидеров и результаты бенчмарков на платформах CTF и взлома в области безопасности

Открытые LLM и код для обучения/оценки защиты от атак prompt injection, с бенчмарками для безопасности агентного вызова инструментов и следования…

NOVA - система защиты кода Claude от атак с помощью инъекций промптов

Автономный движок для red-teaming LLM. RedThread управляет полным жизненным циклом безопасности: генерация adversarial-атак, проведение точных оценок…

Самостоятельно размещаемая платформа анализа угроз — агрегация фидов, ИИ-триаж, покрытие MITRE ATT&CK и разработка правил обнаружения с интеграцией…

Навык для Claude Code и Codex по поиску потенциально уязвимых копий Brotli и руководству по обновлению для CVE-2026-111497.

Автоматизированный инструмент обнаружения стеганографии, который сканирует веб-сайты, веб-серверы и локальные каталоги, используя AI-распознавание…

Защита во время выполнения для ИИ-агентов

Skillscript — небольшой декларативный язык для создания агентных рабочих процессов. Среда выполнения, компилятор и CLI.

Мощная защита для AI-агентов - Открытое обеспечение безопасности и отслеживание затрат для AI-приложений

AI supply-chain BOM: every agent, MCP server and AI package, and what each one can reach. Open-source scanner and self-hosted control plane for code,…

Moxy — это инструмент DAST с открытым исходным кодом, предназначенный для современного тестирования безопасности веб-приложений. Он предоставляет…

Держите приватные данные, внутреннюю инфраструктуру и секреты вне облачных агентов для программирования, не нарушая свой рабочий процесс.

Инструмент для обнаружения и эксплуатации неправильной конфигурации deeplink'ов в Android