#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

[🎖️ Почётное упоминание на HAIPS @COLM'26] Первый бенчмарк для оценки того, насколько хорошо LLM-агенты действуют в соответствии с назначенной им…

Каркас эволюционного поиска с учётом траекторий для red-teaming LLM-агентов на MCP-серверах, генерирующий состязательные промпты для картирования…

Чек-лист безопасности перед запуском для приложений, созданных ИИ (Lovable, v0, Bolt, Cursor). 69 проверок, охватывающих Supabase RLS, раскрытые…

Доказательство концепции эксплуатации для CVE-2025-23266 (NVIDIAScape), нацеленное на среду выполнения контейнеров NVIDIA AI. Демонстрирует выход из…

Познакомьтесь с Eclipse — единственным джейлбрейком, который «лунной походкой» обходит ChatGPT 4o.

Демонстрация того, что Claude Opus не находит CVE-2023-0266

Сканер безопасности WordPress с анализом на основе ИИ, фреймворком этического соответствия и профессиональной отчетностью.

Шлюз безопасности для MCP-серверов с пополитикой применения политик для каждого инструмента, аудиторскими квитанциями, подписанными Ed25519, и…

Исследовательский конвейер, который конструирует проверенные успешные примеры и организует их в записи формирования, чтобы постепенно отравлять…

Мы спросили 6 ИИ об их собственном программировании. Все 6 сказали, что джейлбрейк никогда не будет исправлен. Запустите сами — $2, 10 минут.

Бенчмарк для оценки AI-агентов по исправлению реальных уязвимостей безопасности.

Исследовательский код для ред-тиминга мониторов автоматического режима ИИ, включая симуляционные оценки, фаззинг и реализации мониторов для Claude…

Кураторская коллекция исследовательских работ по безопасности генерации с дополненной выборкой, организованная по таксономии SLOT, охватывающей…

Анализатор и интерпретатор правил Hashcat — «Розеттский камень» для декодирования синтаксиса правил hashcat

Audit log and secret scanner for AI coding agents: see what Claude Code, Codex, Gemini CLI and 27 more ran on your machine, and find API keys leaked…

Статический анализатор CLI, который сканирует сгенерированный ИИ код на наличие уязвимостей, таких как SQL-инъекции, небезопасная рефлексия и жёстко…

MITM-прокси для HTTP/HTTPS на Go с перехватом HTTP/2 и HTTP/1.1, генерацией локального CA и сертификатов для каждого хоста, туннелированием…

[NeurIPS '25] Код для статьи «IF-Guide: подавление вредных обучающих данных с помощью функций влияния для снижения токсичности LLM»