#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Бесплатное правило базовой безопасности для Claude Code, Codex и Cursor: рассматривает описания MCP-инструментов как недоверенный ввод (OWASP MCP Top…

Инструмент аудита цепочки побега из песочницы FastGPT (связан с CVE-2026-32128, инспекция цепочки v4.14.8)

Использует ChatGPT API, Bard API и Llama2, Python-Nmap, DNS Recon, модули разведки PCAP и JWT, а также модель GPT3 для создания отчетов об…

CLI на основе ИИ для тестирования Android и iOS приложений с использованием естественного языка. Генерирует, запускает и исправляет сквозные тесты на…

Полнофункциональная ОС безопасности для AI-агентов с пятиуровневой архитектурой глубокоэшелонированной защиты, охватывающей сканирование базовых…

Официальный репозиторий для CTFTiny

Фреймворк для оценки, который проверяет, следуют ли большие языковые модели невидимым инструкциям, закодированным в Unicode и встроенным в обычный на…

Агностичный к хосту предварительный хук безопасности для агента кодирования: обнаруживает паттерны пользовательского ввода с помощью Semgrep и выдает…

AI Prompt Secret Scanner: локальный прокси и хук Claude Code, который блокирует секреты до того, как они достигнут AI API

Официальный код для статьи ISSTA 2026: Достаточно ли «знать, что это вредоносное ПО»? Оценка LLM для детального аудита поведения вредоносных программ

Диагностическая платформа для измерения уязвимости LLM к аффективной контекстуальной эрозии (ACE) и связанным с ней лиминальным векторам атак.…

Это техническое исследование и обзор предназначены для образовательных целей на публичном коде и представляют собой добросовестное использование…

Этот репозиторий содержит официальную реализацию статьи «[Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting]»

Технический анализ уязвимости и proof-of-concept для CVE-2026-47630: произвольный dlopen через TRITON_BATCH_STRATEGY_PATH в NVIDIA Triton Inference…

Курируемая подборка ресурсов для изучения и исследования атак с помощью инъекций в промпты LLM, методов защиты и безопасности.

Ваш персональный ИИ-ассистент размером всего 888 КБ (~35 КБ в коде приложения). Работает на ESP32. GPIO, cron, пользовательские инструменты, память и…

атаки масштабирования изображений для многомодальной инъекции промптов

Проект Mantis: Взлом ИИ-хакера; инъекция подсказок как защита от кибератак на основе LLM