#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Чат-бот на основе ИИ для кибербезопасности, предназначенный для предоставления полезных и точных ответов на ваши запросы, связанные с…
Семантический контроль версий на основе графов для кода, написанного ИИ. Отслеживает сущности и связи вместо файловых диффов, обеспечивая анализ…

Открытый исходный код, самостоятельно размещаемый конвейер безопасности для IT, AI и OT. Вход — логи. Выход — доказательства.: нормализация OCSF, 46…

Санитизация без переобучения, которая переупорядочивает перестановочно-эквивалентные блоки нейронной сети, чтобы уничтожить вредоносный код,…

Компонуемый фреймворк исследовательских контрактов и YAML-рецептов для управляемых агентом экспериментов по безопасности на одноразовых…

Управляемый LLM конвейер фаззинга на базе GitHub Security Lab Taskflow Agent

Измерение открытых привилегий в защите агентов

Этот репозиторий содержит полную запись моего трёхлетнего исследовательского пути, охватывающую проект от базовых концепций до разработки…

AI supply-chain BOM: every agent, MCP server and AI package, and what each one can reach. Open-source scanner and self-hosted control plane for code,…

Код, журналы ответов и метки для статьи Jailbreaking Open-Weight LLMs via Random Embedding Perturbations

Runtime Application Self Protection для веб-серверов Python, бессерверных функций и серверов MCP, обнаруживающая атаки, prompt injection и утечки…

Артефакты, похожие на исправления, со встроенными дефектами

автономная платформа для red teaming; мультиагентная мета-обвязка для наступательной безопасности

Сканер безопасности для навыков агента

OpenAnt от Knostic — ведущий продукт с открытым исходным кодом для обнаружения уязвимостей на основе LLM, помогающий защитникам proactively находить…

Концентратор мониторинга, отслеживающий популярные репозитории с открытым исходным кодом и использующий ИИ для обнаружения коммитов, закрывающих…

Детерминированный конвейер извлечения, триажа и локальной LLM-компиляции на основе PyGhidra для реимплементации на C.

Исследовательский код для обучения адаптеров, позволяющих бэкдорам LLM-агентов сохраняться после доброкачественного дообучения, с оценкой частоты…