#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Инструмент для пентестинга AI-чат-боксов на C: отправляет в чат-интерфейсы пейлоады языковых (SQLi/NoSQL/XSS/SSTI) и промпт-инъекций и помечает те,…
Sentinel — входящий регулятор от DeanWay Labs. Охраняет то, что слышит ИИ-агент: контент из внешнего мира — это данные, а не приказы. Зеркальное…

Безопасный постоянный персональный сервер агента на Rust. Один бинарный файл, изолированное выполнение, многопровайдерные LLM, голос, память,…

Локальная AI-команда красных для безопасности веб-, API- и LLM-приложений. Рассуждения в стиле атакующего, выводы, подкреплённые доказательствами, и…

Вклад DugganUSA в области киберразведки для IETF Hackathon: векторы бенчмарка реальных агентных атак, анализ аттестации CVE-2026-33697, верификация…

Автономный движок для red-teaming LLM. RedThread управляет полным жизненным циклом безопасности: генерация adversarial-атак, проведение точных оценок…

Концепция доказательства эксплуатации и патч для CVE-2026-57845: RCE через десериализацию pickle в построителе pandas библиотеки Hugging Face…

Полностью автономная система AI-агентов, способная выполнять сложные задачи по тестированию на проникновение.

Исследование безопасности сжатия контекста в кодирующих агентах: показывает, как поддельные метки ролей в недоверенном содержимом переживают…

Ориентированная на аудит модель риска, описывающая, как выводы, создаваемые агентами, могут менять эпистемический статус, приобретать операционные…

Восстановление идентификаторов JavaScript нового поколения с помощью LLM.

Примеры AI-агентных рабочих процессов и MCP-серверов для аудита исходного кода, сортировки проблем и обнаружения уязвимостей в веб-проектах, проектах…

Расширение Burp Suite, которое добавляет встроенные инструменты MCP, анализ с помощью ИИ, контроль конфиденциальности, пассивное и активное…

Сетевая наблюдаемость на базе eBPF для Kubernetes. Индексирует трафик L4/L7 с полным контекстом K8s, расшифровывает TLS без ключей. Доступна для…

Runtime guard skill that detects and blocks malicious skill-induced attacks in skill-augmented agents, with an MCTS loop that evolves the guard…

Оптимизированный форк Bytebot: ИИ-агент для управления рабочим столом. Уменьшен с 7 ГБ до 1,09 ГБ, исправлена CVE-2026-78250, с живой документацией…

Проект OWASP для моделирования угроз с помощью ИИ, помогающий командам выявлять, анализировать и документировать угрозы безопасности и меры защиты в…

Исследовательский код для измерения показателей успешности атак типа jailbreak (ASR и пошаговый ASR) против LLM, включая реализации таких атак, как…