#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Исследовательский код для атаки типа «троян» в модели серого ящика, которая инвертирует один бит KV-кэша в дообученных классификаторах LLM и измеряет…

Реверс-инжинирированный драйвер ядра Linux и пользовательская библиотека для Apple Neural Engine (ANE), обеспечивающие доступ к оборудованию и его…

SHAREM — это фреймворк для анализа шеллкода, способный эмулировать более 45 000 WinAPI и практически все системные вызовы Windows. Он также содержит…

Аудитор безопасности кода на основе ИИ на платформе AgentField, который доказывает эксплуатируемость уязвимостей с помощью заключений, трасс и…

Ваш агент — это угроза безопасности, поэтому относитесь к нему соответственно. yoloAI правильно реализует песочницу для ИИ-агентов.

CVE-Factory

Открытая платформа и эталон для ИИ в операциях по кибербезопасности.

Мобильное приложение на основе камеры, которое пытается изменять фотографии, чтобы сохранить их полезность для людей, делая их непригодными для…

Код для ACM MM2024 (Мультимодальные необучаемые примеры: защита данных от мультимодального контрастивного обучения)

[CVPR 2025-ADVML] Официальный репозиторий для `Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks`

CLI статического анализа, который сканирует кодовые базы на наличие LLM prompt-injection, data-exfiltration, jailbreak и unsafe agent/tool…

Как ИИ превращает атаки на пароли из слепого перебора в адаптивные кампании — а также правила обнаружения и контрмеры, которые их останавливают.…

Эксплойт proof-of-concept для CVE-2025-32434, уязвимости десериализации pickle в режиме weights_only в PyTorch, демонстрирующий создание и выполнение…

Легковесный mcp для предотвращения отравления CVE (CVE-2025-54136), исследователи, захватывающие Claude Code/Copilot/Gemini через prompt injection, и…

Управляемая операционная система для агентного ИИ — Rust + Tauri 2.0 | 65 crates, 658 commands, 84 pages, 5,029 tests, 10/10 OWASP

Сканер только для чтения, выявляющий то, что позволяет репозиторию выполнять код в агенте для программирования (Claude Code, Codex, Cursor, Copilot):…

Доказательство концепции, демонстрирующее удалённое выполнение кода через инъекцию промптов на стороне запроса в OpenClaw Agent Platform,…

Субмиллисекундные VM-песочницы для AI-агентов с помощью copy-on-write форкинга