#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Статический сканер безопасности для пакетов навыков ИИ-агентов. Обнаруживает вредоносные файлы SKILL.md и встроенные скрипты до их запуска.

Код для ACM MM2024 (Мультимодальные необучаемые примеры: защита данных от мультимодального контрастивного обучения)

Next-gen логический WAF-движок, построенный на SWI-Prolog. Оснащён индуктивным обучающимся «мозгом», работающим на скорости 2M+ LIPS, со встроенным…

Исследовательский код для атаки типа «троян» в модели серого ящика, которая инвертирует один бит KV-кэша в дообученных классификаторах LLM и измеряет…

Код для «Управление цензурой: выявление векторов представлений для контроля „мыслей“ LLM»

Остановите атаки prompt injection до того, как они достигнут вашей LLM — нулевые затраты на API, полностью локальный запуск, интеграция за 2 минуты.…

За пределами промпта: взлом LLM с вызовом функций через имитацию следов модерации

Сканирует базы данных PostgreSQL и задачи Jira на наличие PII с использованием regex, NER/ML и опционального обнаружения через self-hosted LLM, с…

Референсная реализация для «Hard Stop: Kernel-Level Preemption and Containment for Rogue Agentic Execution». Внеполосный эпистемический шнур андон,…

Фреймворк LLMSecOps с управлением политиками, обеспечивающий AST-ориентированный SAST, сканирование секретов, проверки цепочки поставок и…

Концепция доказательства и полный разбор CVE-2026-47644: инъекция промпта в Edge Copilot через выход за пределы тега вложения, приводящая к…

Курируемый список литературы и таксономия исследований атак и защиты для мобильных бортовых систем ИИ, охватывающие состязательные атаки, атаки с…

Runtime guard skill that detects and blocks malicious skill-induced attacks in skill-augmented agents, with an MCTS loop that evolves the guard…

Бенчмарк для ред-тиминга и фреймворк для атак типа «чёрный ящик», предназначенный для оценки рисков визуальной дезинформации в коммерческих…

Единая панель интеграции разведданных со всех источников — потоки данных WiFi, сотовой связи, CCTV, ADS-B, орбитальные и SDR-каналы объединены на…

Атрибуция причинного контекста и основанный на правилах монитор LLM для защиты от косвенных инъекций промптов в LLM-агентах, достигающий современного…

MCP-сервер, который позволяет AI-ассистентам управлять самостоятельно размещённой установкой Sn1per, выполняя ограниченные по области и аудируемые…

Агностичный к хосту предварительный хук безопасности для агента кодирования: обнаруживает паттерны пользовательского ввода с помощью Semgrep и выдает…