#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Безопасная* среда выполнения для автономных ИИ-агентов. Политика на основе конституций на простом английском языке. (*https://ironcurtain.dev)

Криптографически подписанный, воспроизводимо проверяемый уровень доказательств для ИИ-агентов. Управляет действиями в цикле, создает подписанные…

Исходные файлы и инструменты, необходимые для создания колод OWASP Cornucopia на разных языках

Формальный межпроцедурный движок анализа потоков данных (taint analysis) для безопасности приложений. Отслеживает недоверенные данные через границы…

CEREBRO-RED v2: Продвинутая платформа для исследований LLM Red Team с алгоритмом PAIR и оценкой LLM-as-a-Judge

Google Tensor Cracks

Рабочая реализация: криптографически проверяемые кратковременные идентификаторы для аутентификации решений ИИ — CVE-2025-59536 (Патентная заявка US…

Вклад DugganUSA в области киберразведки для IETF Hackathon: векторы бенчмарка реальных агентных атак, анализ аттестации CVE-2026-33697, верификация…

Многоступенчатая техника инъекции в промпты, которая обходит защитные механизмы LLM через переназначение идентичности, подавление отказов и…

Навыки моделирования угроз, сканирования, триажа и патчинга, плюс автономный сканирующий харнесс, который можно /customize

LLM security testing framework для обнаружения инъекций промптов, джейлбрейков и состязательных атак — 190+ проб, 28 провайдеров, один Go бинарник

Модульный, основанный на навыках автономный агент Центра операций безопасности (SOC), который мониторит данные OpenSearch/Elasticsearch, создает…

Moxy — это инструмент DAST с открытым исходным кодом, предназначенный для современного тестирования безопасности веб-приложений. Он предоставляет…

SecureAI-Scan — это CLI-инструмент, который сканирует кодовые базы TypeScript и JavaScript на предмет проблем безопасности, специфичных для…

Конвейер автоматического анализа угроз на основе ИИ, который направляет файлы, URL-адреса, IP-адреса, домены или изображения через специализированные…

Асимметричная защита от враждебных ИИ-агентов. VeilGate оценивает каждый входящий запрос, перенаправляет подозреваемых агентов в согласованную по…

cMCP: Конфиденциальный MCP-шлюз. Аппаратно-аттестованное применение политик для вызовов инструментов MCP.

Red Team AI Benchmark: Оценка LLMs для авторизованных задач оборонительной безопасности. Red Team AI Benchmark — это CLI-бенчмарк для оценки моделей.…