#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Коллекция ресурсов по взлому и тестированию на проникновение, чтобы стать лучше!

A search-first, profile-aware reverse-engineering workspace for AI agents — 735 tools across 36 domains in one MCP server.

Коллекция хакатонов, основанных на задачах, включающая руководство для студента, руководство для тренера, лекционные презентации,…

AI harness for long-running code audits, web pentests, and bug bounty hunting, built around how real investigations fail: anchored hypotheses, false…

Повторная оценка детекторов prompt-injection на выводах инструментов LLM-агентов (черновик статьи, скрипты, оценки)

Демонстрации концепций и исследования атак косвенной инъекции промптов на интегрированные в приложения LLM, охватывающие эксфильтрацию данных,…

Autonomous AI pentesting engine, continuous offensive security across web, cloud, AD & Kubernetes. Agentic reasoning + real exploit execution deliver…

Репозиторий для CoSAI Workstream 4, Безопасные шаблоны проектирования для агентных систем

Официальная сборка и проверенный релиз | Открытый AI-пентестер, который доказывает каждую находку. Машинные оракулы повторно запускают каждый…

Фреймворк для атаки с использованием группового накручивания репутации на основе LLM-агентов, который манипулирует ранжированием рекомендательных…

Офлайн-инструмент с приоритетом безопасности для синхронизации и управления навыками агентов

Исследовательский конвейер для обнаружения латентных сигналов подверженности косвенным инъекциям промптов в агентных LLM посредством зондирования…

Your own always-on AI assistant: self-hosted, open source, lightweight. Each agent runs in its own container on your machine, on the harness you…

Автономный движок для red-teaming LLM. RedThread управляет полным жизненным циклом безопасности: генерация adversarial-атак, проведение точных оценок…

Состязательные атаки с использованием изображений на визуально-языковых веб-агентов: от визуальной привязки до выполнения в браузере

Бенчмарк жизненного цикла для атак извлечения чёрного ящика LLM, защит и адаптивных атак.

Агент на базе LLM, который автономно исправляет проблемы GitHub, находит уязвимости в кибербезопасности и решает задачи CTF, используя настраиваемые…

A collection of awesome resources related AI security