#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

За пределами промпта: взлом LLM с вызовом функций через имитацию следов модерации
Открытое исследование безопасности инфраструктуры ИИ-агентов для написания кода. Исполняемые агентом манифесты исправлений для CVE-2026-22812 и…

Курируемый систематический обзор литературы из 756+ статей о применении LLM в кибербезопасности, охватывающий анализ угроз, обнаружение уязвимостей,…

DECeption with Evaluative Integrated Validation Engine (DECEIVE): пусть LLM сделает всю тяжёлую работу по созданию honeypot!

[NeurIPS 2025] Официальный исходный код для статьи «GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning».

EU AI Act Compliance Tool - Классификация рисков и тестирование на предвзятость

Поведенческая оценочная лаборатория (Quorum) для проекта superpowers, который управляет реальными coding-agent CLI (Claude, Codex, Gemini, Kimi и…

Практическая платформа для изучения безопасности ИИ с намеренно уязвимыми LLM-приложениями. Исследуйте OWASP Top 10 для LLM на интерактивных…

AMBER ICI v5: локальный в первую очередь командный центр расследований на базе Ollama с привязанными к делу доказательствами, цепочками агентов,…

Портативная сеть интеллектуального распознавания с офлайн-ИИ

Консоль для атак с использованием инъекций промптов с открытым исходным кодом. Проверяйте безопасность ИИ, запуская категоризированные атаки на любую…

AGLS

Ансамблевый фреймворк для обнаружения и исправления уязвимостей программного обеспечения с использованием нескольких больших языковых моделей, с…

Исследовательский код, реализующий методы атак и защиты с использованием бэкдоров для LLM, включая алгоритмы IBSD, SLIP, BeDKD и BadApex.

Python-библиотека для локального анализа безопасности с помощью LLM в сочетании с бинарным анализом Ghidra, сканированием уязвимостей C/C++ и…

NetLogic — это продвинутый инструментарий для сетевого анализа и кибербезопасности, предназначенный для проверки трафика, анализа пакетов и…

PoC побега из Docker-контейнера через mlx-metal importlib

SafeForge — это открытый центр мобильных приложений на базе GitLab, который позволяет разработчикам создавать, загружать и делиться приложениями в…