#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Исходный код о машинном обучении и безопасности.

Движок политик и EDR для флотов AI-агентов и рабочих станций разработчиков. Отслеживает вызовы инструментов, доступ к файлам, сетевые потоки и…

Нативный уровень обеспечения соблюдения политик для AI-агентов кодирования. Построен на OPA/Rego.

Наблюдаемость Linux на базе eBPF с обнаружением инцидентов с помощью ИИ. Лицензия AGPL-3.0.

Совместный набор для пентеста веб-приложений

Модульный набор инструментов безопасности для автономных агентов, обеспечивающий статический анализ, аудит конфигураций, мониторинг во время…

Практическая платформа для лаборатории по безопасности ИИ с более чем 50 сценариями, охватывающими внедрение промптов, эксплуатацию агентных систем,…

Устойчивая к атакам архитектура глубокого обучения для безопасной indoor-локализации в сетях 5G, объединяющая CNN и multi-head attention для защиты…

Репозиторий кода для проекта CS5446, исследующего защиту от jailbreak-атак на большие языковые модели. Включает наборы данных, блокноты, скрипты для…

Real-time safety guard for AI agents. Check before they act.

Инструмент состязательного искажения изображений, использующий сегментацию SAM и модели CLIP для обхода классификаторов мошеннических изображений на…

Двунаправленная модель классификации токенов для обнаружения и маскирования PII в тексте, с CLI для редактирования, оценки и дообучения на локальных…

Многоагентное автоматизированное управление контекстом для долгосрочных задач в локальных ИИ-агентах

Эксплойт для CVE-2026-33017 — неаутентифицированное удалённое выполнение кода (RCE) в Langflow 1.8.1 через конечную точку build_public_tmp,…

Самостоятельно развёртываемая песочница для red-команд, позволяющая проверять полезные нагрузки на устойчивость к современным системам обнаружения до…

Этот навык помогает Клоду писать безопасный код и предотвращать распространённые уязвимости.

AI-first security scanner. НОВОЕ в v2026.7: обнаружение компрометации Claude Code — проверка .claude/ хуков, разрешений и навыков перед клонированием…

Управление безопасностью для Агентного ИИ