#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Защита от атак на сериализацию моделей
Алгоритмы обнаружения выбросов, состязательных атак и дрейфа

Сканер безопасности для ваших агентных LLM-процессов

Курируемый список научных статей, обзоров и инструментальных наборов по бэкдор-обучению, систематизирующий атаки на основе отравления данных и методы…

Обучайте, оценивайте и исследуйте нейронные сети со встроенными инструментами состязательной робастности, включая PGD-атаки, состязательное обучение…

Автоматизирует решение CAPTCHA с помощью мультимодальных ИИ-моделей (GPT-4o, Gemini) и Selenium, поддерживая текстовые и аудио-капчи, слайдерные…

Стандартизированный бенчмарк устойчивости к состязательным атакам с публичной таблицей лидеров и загружаемым зоопарком моделей для оценки ML-моделей…

Интерпретируемость и объяснимость данных и моделей машинного обучения

🥂 Элегантно проходите вызов hCaptcha с помощью мультимодальной большой языковой модели.

Курируемый список полезных ресурсов, охватывающих Offensive AI.

Преднамеренно уязвимая банковская платформа для отработки тестирования безопасности веб-приложений, API и AI/LLM, безопасного анализа кода и…

Держите приватные данные, внутреннюю инфраструктуру и секреты вне облачных агентов для программирования, не нарушая свой рабочий процесс.

Фреймворк с открытым исходным кодом для red-teaming генеративных ИИ-систем: автоматизируйте атакующие промпты, оценивайте ответы моделей и проводите…

Security scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment

🐢 Библиотека с открытым исходным кодом для оценки и тестирования LLM-агентов

Набор инструментов для оценки и повышения безопасности LLM.

Инспектируйте, отлаживайте и визуально тестируйте серверы Model Context Protocol (MCP) из веб-интерфейса, CLI или TUI, с исследованием…

Programmable guardrails for LLM chat apps: enforce input/output rails, block jailbreaks and prompt injections, detect hallucination, and mask…