#1Инструменты безопасности на основе МО, состязательного машинного обучения и киберзащиты с ИИ.
Рекомендация Kitploit
davidc1212/crawНадёжный фреймворк для аудио-водяных знаков, встраивающий бинарные сообщения в амплитудные спектрограммы, с дифференцируемым моделированием атак,…
chrisandoryan/nethive-projectРеструктурированная и совместная инфраструктура SIEM и CVSS. Представлено на Blackhat Asia Arsenal 2020.
stardust457/sldrФреймворк защиты, который смягчает вредоносное дообучение LLM с помощью выборочного восстановления слоёв и динамической маршрутизации, со скриптами…
nsol-nmsu/fml-networkFLNET2023 — это набор данных, предназначенный для обнаружения вторжений в сценариях федеративного обучения. Он построен с использованием эмулятора…
zhengxr930/malevalОфициальный код для статьи ISSTA 2026: Достаточно ли «знать, что это вредоносное ПО»? Оценка LLM для детального аудита поведения вредоносных программ
lzwhehe/benign-instruction-benchRe-evaluating prompt-injection detectors on LLM agent tool outputs (paper draft, scripts, scores)
lightless-labs/third-thoughtsИсследовательский набор инструментов для анализа поведенческих паттернов ИИ-агентов с помощью междисциплинарного анализа корпусов. Разбирает журналы…
azzzzliao/aegis-audio-defenseDefense framework that keeps audio-language models frozen and adds a mid-layer risk gate with late-layer safety adapters to block audio jailbreaks at…
yingtaoren/d-scanАнализирует внутренние состояния LLM и более 100 признаков внимания/вероятности для обучения классификаторов, выявляющих атаки отравления документов…
sliu11-byte/mea-benchБенчмарк жизненного цикла для атак извлечения чёрного ящика LLM, защит и адаптивных атак.
liuz233/hardeИсследовательский код для HARDE — обвязки агента, которая исследует и адаптивно оптимизирует компоненты для обнаружения рисков во время выполнения и…
zdcslab/rubrics-as-an-attack-surfaceИсследовательский код для Rubric-Induced Preference Drift (RIPD): эволюционный поиск рубрик, отбор с сохранением бенчмарка и оценка рассогласования…
rdelasierra-uy/rag-seguridadCyberRAG — RAG 100% local (Ollama) sobre apuntes y libros de ciberseguridad: recuperación híbrida, respuestas con citas, asistente de pentest por…
siyuanli00/intactИсследовательский код, воспроизводящий эксперименты по многоходовому джейлбрейку LLM (FITD, MRCJ, ActorAttack, X-Teaming) из статьи SoK по…
jianshuod/ipi-exposure-signalИсследовательский конвейер для обнаружения латентных сигналов подверженности косвенным инъекциям промптов в агентных LLM посредством зондирования…
yeasen-z/leakgaugeОбнаруживает атаки утечки контекста LLM путём обучения лёгких поведенческих зондов на log-вероятностях, с конвейерами обнаружения vLLM offline/server.
devinblack001/ddos-reduction-systemAdaptive two-stage Layer 4 DDoS mitigation gateway using behavioral traffic analysis, Random Forest classification, and kernel-level ipset/iptables…
resharma/ajarИзмерение открытых привилегий в защите агентов
