#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

OWASP Top 10 для приложений на основе больших языковых моделей (часть проекта GenAI Security)

Коллекция примеров моделей угроз из реального мира для различных технологий, предоставляющая практические знания о выявлении и снижении рисков…

Я воспроизвёл метод RYS Нг и обнаружил, что дублирование 3 конкретных слоёв в Qwen2.5-32B повышает способность к рассуждению на 17%, а дублирование…

Обфускация против LLM через подсчет пальцев

Трассировки решений LLM-агентов, таблицы лидеров и результаты бенчмарков на платформах CTF и взлома в области безопасности

Семантическая наблюдаемость для UNIX-систем — легковесный системный зонд на C с анализом на основе ИИ

Навык оценки B2B-вендоров программного обеспечения для Claude Code — вопросы от экспертов в предметной области, беседы с ИИ-агентами вендоров, оценка…

Агентная память для CTI на Python — графы знаний STIX, разрешение псевдонимов угроз, автономный RAG, MCP-сервер для агентов Claude Code и LangChain

Автоматизированный фреймворк для перехвата механизмов безопасного рассуждения в больших моделях рассуждений с помощью смоделированных трассировок…

Инструмент анализа безопасности, выявляющий риски в расширениях Blackbox.ai, включая кражу учетных данных, неисправленные CVE и угрозы…

Инъекция в промпт в боте проверки кода, который выполняет созданные ИИ исправления в песочнице. Песочница использует чёрный список для блокировки…

Двухступенчатый детектор промпт-инъекций и джейлбрейков: регулярные фильтры плюс квантованный ONNX-классификатор на базе DeBERTa-v3, с поддержкой…

Техническое исследование и набор данных временной шкалы, документирующие политики согласования безопасности, защитные барьеры и эволюцию поведения…

Подробный технический анализ CVE-2024-5452, уязвимости удаленного выполнения кода в PyTorch Lightning через загрязнение свойства дельты DeepDiff, с…

Anticipator — это платформа с открытым исходным кодом для обнаружения угроз в мультиагентных ИИ-системах.

Orbit Tracer Security Agent для интеллектуального устранения уязвимостей. Отслеживает радиус поражения уязвимостей с помощью графа знаний Orbit,…

AI-рецензирование для результатов пентестов или отчетов Bug Bounty — проверяет серьезность, доказательства и качество отчетов перед отправкой,…

Набор инструментов для оценки уязвимостей и эксплуатации с использованием ИИ для модульного сканирования веб-приложений, обнаружения SQLi, XSS, RCE,…