#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Криптографически подписанный, воспроизводимо проверяемый уровень доказательств для ИИ-агентов. Управляет действиями в цикле, создает подписанные…

Безопасная, приватная операционная система для AI-агентов с локальным зашифрованным хранилищем, аутентификацией через OAuth/SSO, управлением доступом…

Защитный фреймворк, поддерживающий ориентированную на безопасность теневую память для обнаружения и блокирования атак типа prompt-injection и…

Библиотека интерактивных тренингов по повышению осведомлённости в области безопасности с открытым исходным кодом: более 130 упражнений SCORM по…

Анализирует внутренние состояния LLM и более 100 признаков внимания/вероятности для обучения классификаторов, выявляющих атаки отравления документов…

Этот репозиторий содержит официальную реализацию статьи «[Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting]»

Конвейер с нулевым взаимодействием, который автоматически, каждую неделю превращает недавно превращённые в оружие CVE из каталога CISA Known…

Just-in-time API-ключи для ИИ-агентов — и любого другого процесса, который вы через него маршрутизируете: вызывающая сторона видит только плейсхолдер.

Движок конколического выполнения на базе LLM-агента, который инструментирует исходный код, обобщает ограничения путей на естественном языке и…

Самореферентный локальный контраст для обнаружения отравления знаний в генерации с дополнением на основе извлечения

автономная платформа для red teaming; мультиагентная мета-обвязка для наступательной безопасности

Курируемый индекс атак и защит на основе глубокого обучения, направленных на задержку, энергопотребление-задержку и тайминги (доступность) —…

Движок поиска в пространстве состояний на основе LLM для автономного тестирования на проникновение, решения CTF и исследования уязвимостей.…

Офлайн-инструмент с приоритетом безопасности для синхронизации и управления навыками агентов

Воспроизводит CVE-2026-44246 — уязвимость внедрения промптов в триажном агенте GitHub Actions проекта nnU-Net, демонстрируя, как содержимое issue…

Обеспечьте делегирование с минимальными привилегиями для ИИ-агентов с помощью подписанных учётных данных с ограниченной областью действия.…

Интерпретируемость и объяснимость данных и моделей машинного обучения

Расширение Burp Suite, которое добавляет пассивное обнаружение уязвимостей с помощью искусственного интеллекта.