#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Естественно-языковой агент автоматизации Android, управляющий реальными устройствами через ADB, собирающий Logcat и скриншоты и предоставляющий…

Python-фреймворк для создания LLM-рабочих процессов в виде конечных автоматов с формальной верификацией через теорию доказательств Z3,…

Эволюционная платформа для обхода защиты LLM и тестирования guardrail-механизмов, которая формирует переиспользуемый пул стратегий с помощью…

Движок политик и EDR для флотов AI-агентов и рабочих станций разработчиков. Отслеживает вызовы инструментов, доступ к файлам, сетевые потоки и…

Локальный, детерминированный MCP-сервер для IDA Pro/Home: 109 строго типизированных операций обратного инжиниринга, выводы с подтверждением…

Recon-Scan: пассивная разведка с открытым исходным кодом и анализом безопасности на основе ИИ. Полностью автоматизированный, ориентированный на…

Доказательства и данные для технического отчёта Sorami о настройках безопасности по умолчанию 15 Helm-чартов для AI-сервинга, векторных баз данных и…

Исследовательский код для HARDE — обвязки агента, которая исследует и адаптивно оптимизирует компоненты для обнаружения рисков во время выполнения и…

Пёсик, который помогает выискивать проблемы безопасности в ваших репозиториях.

Фреймворк защиты, который сохраняет аудио-языковые модели замороженными и добавляет среднеуровневый шлюз риска с адаптерами безопасности поздних…

Фреймворк автономных агентов со структурированной памятью, хуками безопасности и управлением циклом. Создан агентом, который на нём работает.

Использует ChatGPT API, Bard API и Llama2, Python-Nmap, DNS Recon, модули разведки PCAP и JWT, а также модель GPT3 для создания отчетов об…

Исследовательский код для атаки типа «троян» в модели серого ящика, которая инвертирует один бит KV-кэша в дообученных классификаторах LLM и измеряет…

Набор бенчмарков и код для обнаружения сбоев выравнивания ИИ, включающий 44 бенчмарка по десяти типам сбоев и zero-shot RLCD-детектор, оценённый на 7…

Исследовательский код для ред-тиминга мониторов автоматического режима ИИ, включая симуляционные оценки, фаззинг и реализации мониторов для Claude…

Этот репозиторий содержит инструмент, который можно использовать для автоматизированных задач пентестинга.

CLI с открытым исходным кодом для бенчмаркинга безопасности ИИ. Оценивайте, как модели ИИ выполняют задачи наступательной безопасности с помощью…

Детерминированный каркас и руководство для автономных offensive LLM-агентов, обеспечивающие соблюдение авторизации, границ области и контрольных…