#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit

LLM security testing framework для обнаружения инъекций промптов, джейлбрейков и состязательных атак — 190+ проб, 28 провайдеров, один Go бинарник

Модульный сканер уязвимостей LLM, который проверяет на галлюцинации, утечку данных, промпт-инъекции, джейлбрейки и токсичность с помощью статических,…

Открытый набор тестов с открытым исходным кодом для кросс-модальных и мультимодальных промпт-инъекций. 250 000+ атакующих пейлоадов для модальностей…

Уязвимость высокого уровня серьезности, связанная с инъекцией промптов в Claude AI, доказывает, что даже самые умные языковые модели могут быть…

Остановите атаки prompt injection до того, как они достигнут вашей LLM — нулевые затраты на API, полностью локальный запуск, интеграция за 2 минуты.…

Агент аудита согласованности, способный быстро исследовать гипотезы согласованности

Консоль для атак с использованием инъекций промптов с открытым исходным кодом. Проверяйте безопасность ИИ, запуская категоризированные атаки на любую…

Фреймворк для оценки, который проверяет, следуют ли большие языковые модели невидимым инструкциям, закодированным в Unicode и встроенным в обычный на…

Детективная игра-допрос с голосовым управлением. Mistral Large 3 + Voxtral STT + ElevenLabs TTS. Создано для Mistral Worldwide Hackathon 2026.

Среда моделирования противника на основе плейбуков, которая компилирует пути атак, определённые в JSON, в позиционно-независимые полезные нагрузки…

A collection of awesome resources related AI security

Полностью автоматическое удаление цензуры для языковых моделей

Платформа для симуляции противника и Red teaming с AI

Тестируйте свои промпты, агенты и RAG. Red teaming/пентестинг/сканирование уязвимостей для ИИ. Сравнивайте производительность GPT, Claude, Gemini,…

Metasploit для машинного обучения.

Инструмент обхода антивируса

Набор инструментов, чтобы заставить систему выглядеть так, как будто она стала жертвой APT-атаки

Инструмент для обеспечения информационной безопасности, предназначенный для проведения имитации атак противника.