#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Анализатор и интерпретатор правил Hashcat — «Розеттский камень» для декодирования синтаксиса правил hashcat

Открытый фреймворк для red teaming промпт-инъекций на основе RL, с общим тренером, curriculum learning и бенчмарками, такими как AgentDojo,…

Бесплатные практические лаборатории по цифровой криминалистике для студентов и преподавателей

Набор бенчмарков и код для обнаружения сбоев выравнивания ИИ, включающий 44 бенчмарка по десяти типам сбоев и zero-shot RLCD-детектор, оценённый на 7…

Self-hosted runtime control plane for AI agents. Observe or HITL approve or Block rogue tool calls before it executes: secret leaks, prompt…

Бенчмарк для ред-тиминга и фреймворк для атак типа «чёрный ящик», предназначенный для оценки рисков визуальной дезинформации в коммерческих…

Многоагентный фреймворк с поддержкой MCP для декларативных агентных рабочих процессов на основе YAML, используемый для аудита кода с помощью ИИ,…

Примеры AI-агентных рабочих процессов и MCP-серверов для аудита исходного кода, сортировки проблем и обнаружения уязвимостей в веб-проектах, проектах…

Фреймворк защиты для безопасности LLM-агентов, который компилирует контракты задач, проверяет манифесты возможностей и контролирует эффекты с помощью…

Самостоятельно размещаемая платформа анализа угроз — агрегация фидов, ИИ-триаж, покрытие MITRE ATT&CK и разработка правил обнаружения с интеграцией…

Стенд для бенчмаркинга и оценки, проверяющий, сопротивляются ли LLM-агенты вредоносным инструкциям, скрытым в мультимодальных изображениях навыков,…

Автоматизированный AI-инструмент разведки по Facebook для профилирования целей, анализа сетей и составления отчётов об угрозах. Полностью работает на…

управление пентестами с открытым исходным кодом, созданное для работы под управлением ИИ-агента

🥂 Элегантно проходите вызов hCaptcha с помощью мультимодальной большой языковой модели.

Курируемый список материалов и ресурсов по безопасности ИИ для пентестеров, багхантеров и исследователей безопасности.

Автоматизирует решение CAPTCHA с помощью мультимодальных ИИ-моделей (GPT-4o, Gemini) и Selenium, поддерживая текстовые и аудио-капчи, слайдерные…

Безопасность среды выполнения агентов — песочница для агентов с нулевым доверием, нулевой настройкой и нулевой задержкой

Автоматизированная платформа для тестирования инъекций промптов в приложения, интегрированные с LLM, с двух-LLM архитектурой.