#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Каркас для исследований выравнивания (в стиле автоисследований) для защиты LLM: поиск по одной поверхности policy.md

Лёгкие и безопасные Linux-песочницы для недоверенных процессов. Работают в браузере и на сервере.

Код исследования атак отравления на PGM-index, демонстрирующий, как создавать состязательные данные для деградации производительности обученных…

Black-box фреймворк для атак, который перехватывает процесс рассуждения в агентных системах генерации с дополненной выборкой (retrieval-augmented…

защитный механизм, блокирующий катастрофические действия агента

Мощная защита для AI-агентов - Открытое обеспечение безопасности и отслеживание затрат для AI-приложений

Профессиональный отчет об оценке уязвимостей для риска внедрения команд в LiteLLM, включающий краткое изложение для руководства, техническое…

Код воспроизведения для контролируемого исследования атак выводящих признаков членства на OLMo 2, охватывающий вставку документов, промежуточное…

Обучайте, оценивайте и исследуйте нейронные сети со встроенными инструментами состязательной робастности, включая PGD-атаки, состязательное обучение…

Идентификация OpenAI-совместимых LLM по сигналам токенизатора и поведения.

Обнаружение уязвимостей Zero shot с помощью LLMs


Исследовательский код для добавления управляемых экспертов безопасности в слои LLM посредством двухэтапного обучения с апсайклингом, с маршрутизацией…

Криминалистический анализ LLM на уровне весов: сравнение весов моделей, обнаружение дообучений, слияний и замаскированных производных моделей, а…

Исходный код и статья для исследования EvoRobust с конференции NeurIPS, показывающего, что простые признаки на основе bag-of-words и метаданных…

Открытый исходный код песочницы для агентов для команд. Предоставление каждому сотруднику защищённого личного агента.

Заманивайте AI-веб-скраперы в бесконечную ядовитую яму.

Фиолетовая команда: структура упражнений