#1Инструменты безопасности на основе МО, состязательного машинного обучения и киберзащиты с ИИ.
Рекомендация Kitploit
hannahxchen/llm-censorship-steeringКод для «Управление цензурой: выявление векторов представлений для контроля „мыслей“ LLM»
mamadou-keita/deeclipРеализация статьи «DeeCLIP: A Robust and Generalizable Transformer-Based Framework for Detecting AI-Generated Images»
aniketkarne/aco-prompt-shieldОстановите атаки prompt injection до того, как они достигнут вашей LLM — нулевые затраты на API, полностью локальный запуск, интеграция за 2 минуты.…
jinxhy/awesome-moai-securityКурируемый список литературы и таксономия исследований атак и защиты для мобильных бортовых систем ИИ, охватывающие состязательные атаки, атаки с…
safety-research/red-teaming-auto-modeResearch code for red-teaming AI auto-mode monitors, including simulation evals, fuzzing, and monitor implementations for Claude Code and Codex…
deep-jlu/skillpoisonИсследовательский конвейер, который конструирует проверенные успешные примеры и организует их в записи формирования, чтобы постепенно отравлять…
wang-yanting/agentwatcherАтрибуция причинного контекста и основанный на правилах монитор LLM для защиты от косвенных инъекций промптов в LLM-агентах, достигающий современного…
mouna23/ai-driven-mitre-attackЭтот репозиторий демонстрирует конвейер машинного обучения для обнаружения техник MITRE ATT&CK в логах и обогащения выходных данных с помощью…
rin449/bhpaiМногоформатная платформа анализа вредоносного ПО, объединяющая стелс-песочницу Ring-3 для Windows, статические анализаторы PE/PDF, восстановление…
abhinavdubey30/perturbed-embedding-vectorsКод, журналы ответов и метки для статьи Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
ye-ze-yu/epireal-benchБенчмарк для ред-тиминга и фреймворк для атак типа «чёрный ящик», предназначенный для оценки рисков визуальной дезинформации в коммерческих…
q-rz/saffronМасштабирование инференса для обеспечения безопасности LLM
multimodal-ai-lab/tobacТокен за токеном, скомпрометированы: уязвимости бэкдоров в единых авторегрессионных моделях (NeurIPS'26)
canonicalmg/reverse-captcha-evalФреймворк для оценки, который проверяет, следуют ли большие языковые модели невидимым инструкциям, закодированным в Unicode и встроенным в обычный на…
kevinchunye/prompt_injectionСтенд для бенчмаркинга, измеряющий, на каком этапе срабатывают защиты от prompt injection в конвейерах LLM-агентов, использующих инструменты,…
clearlotus-git/cve-2024-37054-pocРепозиторий proof-of-concept и исследований для CVE-2024-37054 — уязвимости небезопасной десериализации при загрузке моделей MLflow PyFunc, которая…
bardlaudian/cve-2024-37054Proof-of-concept, который отравляет зарегистрированные модели MLflow через REST API, внедряя вредоносный pickle для запуска RCE при загрузке модели.
