#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Исследовательский код и набор данных (WSD) для оценки влияния аудио-водяных знаков на анти-спуфинг с использованием wav2vec2 XLS-R и обучения с…
Обходите ограниченный и цензурированный контент в промптах ИИ-чатов 😈

3D Пассивное обнаружение живости лица (Anti-Spoofing) и обнаружение дипфейков. Для вычисления показателя живости требуется одно изображение. 99,67%…

Библиотека для тестирования конфиденциальности систем глубокого обучения, позволяющая оценивать подверженность атакам определения членства в…

Многоагентная LLM-система, которая автономно оценивает безопасность веб-приложений, оркестрируя выполнение на основе инструментов и проверяя…

PoC для CVE-2024-3660. Произвольное выполнение кода в Keras.

Уязвимость высокого уровня серьезности, связанная с инъекцией промптов в Claude AI, доказывает, что даже самые умные языковые модели могут быть…

Фреймворк для исследований по обнаружению и удалению бэкдоров в языковых моделях, объединяющий обнаружение аномалий на основе признаков с…

Доказательство концепции эксплуатации для CVE-2025-23266 (NVIDIAScape), нацеленное на среду выполнения контейнеров NVIDIA AI. Демонстрирует выход из…

Инструмент автоматизированной разведки веб-доменов и оценки безопасности, объединяющий перечисление поддоменов, сканирование портов, сканирование…

Демонстрации концепций и исследования атак косвенной инъекции промптов на интегрированные в приложения LLM, охватывающие эксфильтрацию данных,…

Джейлбрейки, утечки промптов, промпт-инъекции, атаки на LLM. Коллекция промптов для атак на большие языковые модели

Это исследование анализирует уязвимости десериализации Python pickle, с акцентом на CVE-2024-3568 в TFAutoModel библиотеки Hugging Face Transformers.…

Исследовательская демонстрация атак с непрямой инъекцией промптов для управления автономными веб-агентами на основе LLM, с инструментами для…

PowerShell-инструментарий для обнаружения и устранения CVE-2025-32711 (EchoLeak) — критической уязвимости нулевого клика, связанной с внедрением…

Расширение Burp Suite, использующее сгенерированные ИИ правила regex-атак для обнаружения IDOR и ошибок контроля доступа, а затем сканирующее историю…

Сервис для защиты от prompt injection, jailbreak-атак и вредоносного контента при взаимодействии с AI-сервисами.

Эксплойт для удаленного выполнения кода Langflow AI (без аутентификации)