#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Профессиональный отчет об оценке уязвимостей для риска внедрения команд в LiteLLM, включающий краткое изложение для руководства, техническое…

Автономный аудитор безопасности (белый хакер) для анализа кода на основе ИИ, исследования баг-баунти, создания эксплойтов и верификации, основанной…

Открытый исходный код песочницы для агентов для команд. Предоставление каждому сотруднику защищённого личного агента.

Репозиторий исследований, документирующий потолки обобщения LLM в обнаружении уязвимостей безопасности кода, с перекрестной оценкой на синтетических…

Безопасная* среда выполнения для автономных ИИ-агентов. Политика на основе конституций на простом английском языке. (*https://ironcurtain.dev)

Сканер уязвимостей для пользовательских политик AWS с использованием ChatGPT

Репозиторий сгенерированных ИИ шаблонов Nuclei для публичных CVE, ещё не покрытых существующими шаблонами — повышает скорость и охват обнаружения 👾

Стандарт безопасности для навыков агентов, предоставляющий руководящие принципы и лучшие практики по защите автономных агентов на основе ИИ в…

Преднамеренно уязвимая модель машинного обучения для практического обучения безопасности. Исследуйте распространенные уязвимости ML, состязательные…

Расширение сканера уязвимостей на базе ИИ для Burp Suite с поддержкой нескольких провайдеров (Ollama, OpenAI, Claude, Gemini)

Самостоятельно развёртываемая песочница для red-команд, позволяющая проверять полезные нагрузки на устойчивость к современным системам обнаружения до…

Вклад DugganUSA в области киберразведки для IETF Hackathon: векторы бенчмарка реальных агентных атак, анализ аттестации CVE-2026-33697, верификация…

Python-скрапер на основе ИИ

Пёсик, который помогает выискивать проблемы безопасности в ваших репозиториях.


Двухступенчатый детектор промпт-инъекций и джейлбрейков: регулярные фильтры плюс квантованный ONNX-классификатор на базе DeBERTa-v3, с поддержкой…

Обнаружение уязвимостей Zero shot с помощью LLMs

openrisk — это инструмент, который генерирует оценку риска на основе результатов сканирования Nuclei.