#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Мы спросили 6 ИИ об их собственном программировании. Все 6 сказали, что джейлбрейк никогда не будет исправлен. Запустите сами — $2, 10 минут.

Коллекция ресурсов по взлому и тестированию на проникновение, чтобы стать лучше!

Исследовательская игра по кибербезопасности, измеряющая способность людей обнаруживать фишинговые письма, созданные ИИ. Разработана как…

Исследовательская реализация агента для джейлбрейка LLM, обходящего защитные механизмы коммерческих моделей с помощью плетения безобидных промптов и…

Легковесная кроссплатформенная изоляция процессов на основе среды выполнения OpenAI Codex. Изолируйте любую команду с контролем файлов, сети и…

Этот проект с открытым исходным кодом посвящен внедрению корпоративного уровня AI-SPM. Таким образом организации могут активно защищать свои системы…

Ваш персональный ИИ-ассистент размером всего 888 КБ (~35 КБ в коде приложения). Работает на ESP32. GPIO, cron, пользовательские инструменты, память и…

Песочница WASM с контролем возможностей для кода ИИ-агентов. Агенты могут вызывать только явно предоставленные инструменты с заданными ограничениями.…

Docker Compose лаборатория, воспроизводящая SSRF CVE-2026-33626 в загрузчике изображений для vision-language от LMDeploy. Сравнивает поведение…

Воспроизводимое повторное обнаружение уязвимости CVE-2026-42945 в nginx с помощью ИИ, включая технический анализ, триггер PoC и проверку патча для…

DECeption with Evaluative Integrated Validation Engine (DECEIVE): пусть LLM сделает всю тяжёлую работу по созданию honeypot!

Управляемая операционная система для агентного ИИ — Rust + Tauri 2.0 | 65 crates, 658 commands, 84 pages, 5,029 tests, 10/10 OWASP

Бенчмарк для оценки безопасности ИИ-агентов против атак, встроенных в контекст, с которым работают навыки, включающий 155 сценариев в 6 областях…

Бенчмарк и библиотека для оценки атак извлечения моделей и методов защиты прав собственности (водяные знаки, возмущение выходных данных, обнаружение…

Код в "DCVD: Dual-Channel Cross-Modal Fusion for Joint Vulnerability Detection and Localization"

Код VulTriage: трёхпутевое расширение контекста для обнаружения уязвимостей на основе LLM

Технический анализ уязвимости инъекции сериализации LangChain CVE-2025-68664.