#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Give your AI agent eyes to see the entire internet. Read & search Twitter, Reddit, YouTube, GitHub, Bilibili, XiaoHongShu — one CLI, zero API fees.

Локальный браузерный монорепозиторий безопасности с шестью модулями для мобильного анализа APK/IPA, клиентского DAST-фаззинга, OSINT-каталогов,…

Воспроизводимые уязвимые и исправленные фикстуры GitHub Actions для инъекций в агентные рабочие процессы (CVE-2026-44246) с измеренным покрытием…

Статический анализатор CLI, который сканирует сгенерированный ИИ код на наличие уязвимостей, таких как SQL-инъекции, небезопасная рефлексия и жёстко…

Безопасность не может быть инструкцией в промпте. TBP обеспечивает внешнюю границу уровня исполнения для автономных агентов, обеспечивая соблюдение…

Защита с предварительным аудитом действий, которая обнаруживает и маскирует косвенную инъекцию промптов в LLM-агентах, использующих инструменты, с…

Самостоятельно размещаемая платформа анализа угроз — агрегация фидов, ИИ-триаж, покрытие MITRE ATT&CK и разработка правил обнаружения с интеграцией…

Курируемая библиотека из 78 наступательных модулей безопасности SKILL.md, которые настраивают Claude на экспертную методологию red team в области…

Песочница для автономных ИИ-агентов с декларативными политиками YAML, обеспечивающими ограничения файловой системы, сети и процессов, а также…

Артефакты, похожие на исправления, со встроенными дефектами

Песочница и MCP-прокси, которые блокируют доступ AI-агентов кодирования к чтению SSH-ключей, учётных данных AWS и файлов .env, с политикой запрета по…

Исследовательский код и эксперименты для защиты LLM-агентов с интеграцией инструментов от состязательных атак, расширяющие Agent Security Bench…

Syntactic Ghost: Незаметная универсальная бэкдор-атака на предварительно обученные языковые модели

Исследовательский код, воспроизводящий эксперименты по многоходовому джейлбрейку LLM (FITD, MRCJ, ActorAttack, X-Teaming) из статьи SoK по…

Исследовательский код для Rubric-Induced Preference Drift (RIPD): эволюционный поиск рубрик, отбор с сохранением бенчмарка и оценка рассогласования…

Knowns 0.30.0: неаутентифицированная инъекция заголовков предоставляет AI-агенту неограниченный доступ к файловой системе хоста

Реализация аналитического ядра Ghidra на C++ без зависимостей от JVM, обеспечивающая встраиваемый бинарный анализ, основы Pcode/Sleigh и интерфейсы,…

Локальная AI-команда красных для безопасности веб-, API- и LLM-приложений. Рассуждения в стиле атакующего, выводы, подкреплённые доказательствами, и…