#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Чёрный ящик подход к оптимизации для защиты системных промптов больших языковых моделей (LLM) от атак состязательного извлечения.
Является ли 4-битная квантизация чем-то большим, чем шум, для поведения безопасности чат-модели? Код, предварительная регистрация и метки.

🐾 Полномочия, а не учётные данные, для ИИ-агентов: действия, одобренные политикой, делегирование, которое может только сужать права, мгновенный…

Администратор реестра Loom может переписать документ навыка, у которого нет владельца группы. При следующем полном развёртывании агента, уже…

В Loom правило одобрения с именем code_interpreter приостанавливает работу инструмента Strands и не охватывает инструменты кода и команд ADK. Пустые…

В Loom с google-adk 2.13.0 инструмент «агент-агенту» никогда не ожидает проверки одобрения, поэтому отправка завершается. То же правило по-прежнему…

Высокопроизводительный открытый сканер безопасности, объединяющий SAST, SCA, обнаружение секретов и анализ IaC, созданный для разработчиков и…

MCP-сервер, предоставляющий AI-агентам данные об угрозах VirusTotal: отчёты о файлах, URL, доменах и IP-адресах, отправка на анализ и восстановление…

Сделайте так, чтобы реверс-инжиниринг вашего приложения был дорогостоящим. Инструмент для аудита, усиления защиты и верификации на этапе сборки для…

Фреймворк для обучения LLM-агентов в области кибербезопасности без сред выполнения, синтезирующий траектории решения CTF-задач посредством симуляции…

RuralShield — исследовательский прототип на AWS CDK для облачной безопасности в здравоохранении, с ограниченной политиками ИИ-сортировкой, ответными…

Быстрый набор инструментов для тестирования веб-безопасности с приоритетом ИИ на Rust: открытая альтернатива ZAP, Burp Suite и подобным.…

Самостоятельно размещаемая OSINT-платформа. Укажите ей домен, IP-адрес, электронную почту, телефон или имя пользователя — и 26 модулей запустятся…

Самостоятельно размещаемая OSINT-платформа. Укажите ей домен, IP-адрес, электронную почту, телефон или имя пользователя — и 26 модулей запустятся…

Агент для тестирования безопасности на основе LLM, который выполняет непрерывный цикл вызова инструментов против цели, с более чем 160 адаптерами…

Позвольте ИИ-агентам исследовать запущенную игру изнутри. В реальном времени, безопасно, мгновенно.

Платформа для самостоятельного тестирования на проникновение, которая сканирует только те домены, право собственности на которые подтверждено, и…

Мультиагентная платформа автономного тестирования на проникновение на базе ИИ, которая выполняет разведку, обнаружение поверхности атаки, валидацию…