#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Песочница WASM с контролем возможностей для кода ИИ-агентов. Агенты могут вызывать только явно предоставленные инструменты с заданными ограничениями.…

PoC-код из презентации DEF CON 25

AI-ассистент для пентестеров, который генерирует полезные нагрузки, анализирует код, выполняет разведку и запускает действия из командной строки для…

Используйте LLM для ранжирования документов

Криминалистический анализ коммуникаций Model Context Protocol в стиле Wireshark Захватывайте, просматривайте и расследуйте все HTTP-запросы и ответы…

Защита во время выполнения для ИИ-агентов

Защитные ограничения в реальном времени для вызовов инструмента Claude Code.

Набор данных подсказок на основе генеративного ИИ для кибербезопасности для бенчмаркинга больших языковых моделей

ssh-chat на современном c

Библиотека Python для безопасного и объяснимого машинного обучения Документация доступна @ https://secml.gitlab.io Подписывайтесь на нас в Twitter…

Расширение для браузера, которое обнаруживает PII и конфиденциальные данные в чатах с ИИ, маскирует их плейсхолдерами перед отправкой и…

Переносимые правила безопасности для границы действий ИИ-агентов

PISmith: Red Teaming на основе обучения с подкреплением для защиты от промпт-инъекций

Реализация статьи «DeeCLIP: A Robust and Generalizable Transformer-Based Framework for Detecting AI-Generated Images»

Запрещённые предметы: сегментация на основе моделирования двух слоёв с учётом окклюзий (ICME 2025)

Терминальный сканер безопасности AWS с более чем 102 проверками безопасности по VPC, IAM, S3, CloudTrail, контейнерам (ECS/EKS) и обнаружению…

Симуляция состязательного ИИ между Red Team и Blue Team.

Обеспечьте делегирование с минимальными привилегиями для ИИ-агентов с помощью подписанных учётных данных с ограниченной областью действия.…