#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Безопасная среда выполнения для изоляции задач AI-агентов. Запускайте недоверенный код в изолированных средах WebAssembly.

Сетевой протокол оверлейной сети, предоставляющий AI-агентам постоянные адреса, аутентифицированные зашифрованные туннели и модель доверия поверх…

Формальный межпроцедурный движок анализа потоков данных (taint analysis) для безопасности приложений. Отслеживает недоверенные данные через границы…

Anticipator — это платформа с открытым исходным кодом для обнаружения угроз в мультиагентных ИИ-системах.

Безопасность среды выполнения агентов — песочница для агентов с нулевым доверием, нулевой настройкой и нулевой задержкой

Легковесный слой обнаружения и реагирования агентов (ADR) для AI-агентов — защищает команды, файлы и веб-запросы. Часть Gen Agent Trust Hub.

SOC на базе ИИ для сетей ОТ/АСУ ТП — 6 автономных агентов, сопоставление с MITRE ATT&CK, получение данных от Suricata/Zeek, реагирование с участием…

CLI статического анализа, который сканирует кодовые базы на наличие LLM prompt-injection, data-exfiltration, jailbreak и unsafe agent/tool…

Инструментарий безопасности для AI-агентов. Сканируйте вашу машину на наличие опасных навыков и конфигураций MCP, отслеживайте атаки на цепочку…

Субмиллисекундные VM-песочницы для AI-агентов с помощью copy-on-write форкинга

Сканер безопасности для MCP-серверов. Оценивает аутентификацию, разрешения, риски внедрения и безопасность инструментов. Маяк безопасности агентов.

Агент аудита согласованности, способный быстро исследовать гипотезы согласованности

Криптографически подписанный, воспроизводимо проверяемый уровень доказательств для ИИ-агентов. Управляет действиями в цикле, создает подписанные…

Шлюз безопасности для MCP-серверов с пополитикой применения политик для каждого инструмента, аудиторскими квитанциями, подписанными Ed25519, и…

CLI на основе ИИ для тестирования Android и iOS приложений с использованием естественного языка. Генерирует, запускает и исправляет сквозные тесты на…

Self-hosted runtime control plane for AI agents. Observe or HITL approve or Block rogue tool calls before it executes: secret leaks, prompt…

Агентная память для CTI на Python — графы знаний STIX, разрешение псевдонимов угроз, автономный RAG, MCP-сервер для агентов Claude Code и LangChain