#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Бенчмарк для поиска ошибок с помощью LLM: 77 задач в 43 проектах с открытым исходным кодом (C/C++/Java).

Прозрачный прокси-сервер для редактирования PII в трафике API LLM. Располагается между приложением и поставщиком LLM (в настоящее время Anthropic),…

Проект OWASP Incubator: обнаруживает учётные данные, раскрытые в контенте, доставляемом браузеру (JavaScript, ответы конфигурации, живой трафик).

Инструмент для обучения основам безопасности, используемый в санкционированных фишинговых симуляциях и внутренних ИТ-аудитах.

CEREBRO-RED v2: Продвинутая платформа для исследований LLM Red Team с алгоритмом PAIR и оценкой LLM-as-a-Judge

AIO Cloud Managment Server

Пакет TypeScript, предоставляющий агентов на базе ИИ для задач безопасности приложений (AppSec), построенный на основе передовых моделей.

CVPR2023: Необучаемые кластеры: к необучаемым примерам, не зависящим от меток

Attack framework для взлома защит от prompt injection, основанных на fine-tuning (SecAlign, SecAlign++, StruQ), с использованием…

Прокси-сервер, который оборачивает MCP-серверы с профилированием поведения, сканированием безопасности, контролем рисков и безопасным выполнением.…

Узнайте, что изменилось в вашем релизе Electron: сравните две сборки по IPC, preload, окнам, fuses и хостам с указанием file:line. CLI, CI-гейт,…

Триаж достижимости для сканирования уязвимостей. Передаёт результаты сканера LLM-агенту, который читает ваш исходный код и определяет, какие CVE…

Криптографическая криминалистика терминала и воспроизведение сессий для AI-агентов. Отслеживает, подписывает и аудирует каждую команду с метками…

Правила обнаружения Sigma для мониторинга безопасности AI-агентов

Secure local REST, CLI, MCP, and agent bridge for IDA Pro 9.x

Ядро-обеспеченные полномочия и безопасность во время выполнения для Linux-систем, автономного программного обеспечения и ИИ-агентов.

Фреймворк тонкой настройки, который применяет первопорядковую оптимальную калибровку безопасности и периодическую перекалибровку к LLM, сохраняя…

Эталонный проект OWASP для доказательств безопасности агентного ИИ: сопоставляет выполнение агентов, идентификацию, вызовы инструментов и решения об…