#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Двухуровневый межсетевой экран для LLM, который блокирует входные данные с внедрением промптов с помощью правил regex и классификатора Gemini, а…

Проект OWASP, посвящённый безопасности приложений на основе больших языковых моделей: рассматривает риски, специфичные для LLM, рекомендации по…

Исследование компактизации OpenAI: GhostCompact + Compaction Smuggling

Исследовательская кодовая база для оценки конфиденциальности квантованных нейронных сетей: обучает целевые/теневые модели в режимах PTQ/QAT и…

Эталонный код и интерактивные результаты для автономного обнаружения сетевых атак агентами LLM, использующими инструменты при исследовании…

Оптимизированный форк Bytebot: ИИ-агент для управления рабочим столом. Уменьшен с 7 ГБ до 1,09 ГБ, исправлена CVE-2026-78250, с живой документацией…

Концепция доказательства и полный разбор CVE-2026-47644: инъекция промпта в Edge Copilot через выход за пределы тега вложения, приводящая к…

Полное руководство и рабочий процесс для интеграции Agile-спринтов с конвейерами CI/CD в DevOps.

Микросервис на Express/TypeScript с основанным на Gemini циклом консенсуса двух агентов, который синтезирует и проверяет рекомендательный контент для…

Отправляйте литералы управляющих токенов ChatML/Mistral/Llama в свой стек самостоятельно размещённых агентов и докажите подделку ролей раньше, чем…

Сканирует плагины WordPress на наличие уязвимостей из-за отсутствующих проверок, используя сигнатуры ripgrep, правила Semgrep, картирование…

Исследовательский пайплайн, реализующий визуально-контекстный джейлбрейк против мультимодальных LLM: извлечение промптов T2I, рендеринг изображений…

Бенчмаркинг предвзятости LLM-агентов в сценариях кибератак

Чёрный ящик подход к оптимизации для защиты системных промптов больших языковых моделей (LLM) от атак состязательного извлечения.

Является ли 4-битная квантизация чем-то большим, чем шум, для поведения безопасности чат-модели? Код, предварительная регистрация и метки.

🐾 Полномочия, а не учётные данные, для ИИ-агентов: действия, одобренные политикой, делегирование, которое может только сужать права, мгновенный…

Администратор реестра Loom может переписать документ навыка, у которого нет владельца группы. При следующем полном развёртывании агента, уже…

В Loom правило одобрения с именем code_interpreter приостанавливает работу инструмента Strands и не охватывает инструменты кода и команд ADK. Пустые…