#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

Детективная игра-допрос с голосовым управлением. Mistral Large 3 + Voxtral STT + ElevenLabs TTS. Создано для Mistral Worldwide Hackathon 2026.

Обратимые приманки-подсказки на HTML и JavaScript с непрозрачными ключами для каждой вставки.

C# рефлексивный загрузчик для неуправляемых бинарных файлов.

Повысьте свою безопасность и конфиденциальность, блокируя рекламу, трекеры и вредоносные домены.

POC новой техники инъекции, злоупотребляющей Windows Fork API для обхода EDR. https://www.blackhat.com/eu-22/briefings/schedule/index.html#dirty-vanit…

CEREBRO-RED v2: Продвинутая платформа для исследований LLM Red Team с алгоритмом PAIR и оценкой LLM-as-a-Judge

Многоступенчатая техника инъекции в промпты, которая обходит защитные механизмы LLM через переназначение идентичности, подавление отказов и…

Автоматизированная платформа эмуляции противника

LLM security testing framework для обнаружения инъекций промптов, джейлбрейков и состязательных атак — 190+ проб, 28 провайдеров, один Go бинарник

C2-профиль для Mythic, туннелирующий зашифрованный peer-to-peer трафик агентов через Organizationally Specific TLV протокола IEEE 802.1AB LLDP для…

Управляемый фаззер на основе мутаций для межсетевых экранов веб-приложений на основе машинного обучения

Интерактивные панели мониторинга и библиотеки для ответственной отладки моделей ИИ, охватывающие анализ ошибок, справедливость, интерпретируемость,…

Простые (относительно) вещи, позволяющие копнуть немного глубже, чем обычно.

Автоматизированная среда поведенческой оценки для LLM, которая генерирует разнообразные тестовые сценарии для выявления подобострастия, предвзятости…

AI Red Teaming — игровая площадка для лабораторных работ по проведению тренировок по AI Red Teaming, включая инфраструктуру.

Инструмент обхода антивируса

Исследовательский код для измерения показателей успешности атак типа jailbreak (ASR и пошаговый ASR) против LLM, включая реализации таких атак, как…