#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Чёрный ящик подход к оптимизации для защиты системных промптов больших языковых моделей (LLM) от атак состязательного извлечения.
Исследовательский пайплайн, реализующий визуально-контекстный джейлбрейк против мультимодальных LLM: извлечение промптов T2I, рендеринг изображений…

Сканирует плагины WordPress на наличие уязвимостей из-за отсутствующих проверок, используя сигнатуры ripgrep, правила Semgrep, картирование…

Является ли 4-битная квантизация чем-то большим, чем шум, для поведения безопасности чат-модели? Код, предварительная регистрация и метки.

Бенчмаркинг предвзятости LLM-агентов в сценариях кибератак

🐾 Полномочия, а не учётные данные, для ИИ-агентов: действия, одобренные политикой, делегирование, которое может только сужать права, мгновенный…

В Loom правило одобрения с именем code_interpreter приостанавливает работу инструмента Strands и не охватывает инструменты кода и команд ADK. Пустые…

В Loom с google-adk 2.13.0 инструмент «агент-агенту» никогда не ожидает проверки одобрения, поэтому отправка завершается. То же правило по-прежнему…

Администратор реестра Loom может переписать документ навыка, у которого нет владельца группы. При следующем полном развёртывании агента, уже…

Высокопроизводительный открытый сканер безопасности, объединяющий SAST, SCA, обнаружение секретов и анализ IaC, созданный для разработчиков и…

RuralShield — исследовательский прототип на AWS CDK для облачной безопасности в здравоохранении, с ограниченной политиками ИИ-сортировкой, ответными…

Сделайте так, чтобы реверс-инжиниринг вашего приложения был дорогостоящим. Инструмент для аудита, усиления защиты и верификации на этапе сборки для…

MCP-сервер, предоставляющий AI-агентам данные об угрозах VirusTotal: отчёты о файлах, URL, доменах и IP-адресах, отправка на анализ и восстановление…

Платформа для самостоятельного тестирования на проникновение, которая сканирует только те домены, право собственности на которые подтверждено, и…

Самостоятельно размещаемая OSINT-платформа. Укажите ей домен, IP-адрес, электронную почту, телефон или имя пользователя — и 26 модулей запустятся…

Быстрый набор инструментов для тестирования веб-безопасности с приоритетом ИИ на Rust: открытая альтернатива ZAP, Burp Suite и подобным.…

Самостоятельно размещаемая OSINT-платформа. Укажите ей домен, IP-адрес, электронную почту, телефон или имя пользователя — и 26 модулей запустятся…

Агент для тестирования безопасности на основе LLM, который выполняет непрерывный цикл вызова инструментов против цели, с более чем 160 адаптерами…