#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

TP Seguridad Informática UTN FRBA 2021

Сканирует Shodan на предмет публично доступных серверов Ollama и llama.cpp, перечисляя хосты, местоположения и доступные модели для исследований в…

Система обнаружения и обфускации вредоносного кода на основе ИИ с микросервисами для обнаружения, упаковки и запутывания кода, а также сервисами для…

Эксплойты для CVE-2024-14027, созданные с использованием AI/Claude в качестве теста.

OpenMed < 1.5.2 — неаутентифицированное RCE через загрузку модели privacy-фильтра PII и trust_remote_code=True

Страница публичного уведомления для CVE-2026-54519: отсутствие проверок прав собственности в memory APIs ai-agent-automation, позволяющее чтение и…

PoC для CVE-2026-45033 для Claude Code, а не для Github Copilot. Работает на Haiku 4.5.

Ориентированная на аудит модель риска, описывающая, как выводы, создаваемые агентами, могут менять эпистемический статус, приобретать операционные…

OWASP guide defining a standardized penetration testing methodology for humanoid, industrial, and autonomous robots, covering ROS/ROS2, DDS, CAN bus,…

Proof-of-concept, демонстрирующий инъекцию подсказок в Langchain's GraphCypherQAChain, приводящую к SQL-инъекции в базах данных Neo4j. Включает…

Эталонный проект OWASP для доказательств безопасности агентного ИИ: сопоставляет выполнение агентов, идентификацию, вызовы инструментов и решения об…

Навык для Claude Code и Codex по поиску потенциально уязвимых копий Brotli и руководству по обновлению для CVE-2026-111497.

Эксплойт proof-of-concept для CVE-2026-33017 — неаутентифицированная RCE в эндпоинте build_public_tmp Langflow, внедряющая вредоносный…

Движок сопоставления шаблонов промптов, вдохновлённый YARA, который объединяет правила на основе ключевых слов, регулярных выражений, семантического…

Агентная среда, автоматизирующая обнаружение и валидацию уязвимостей, оркестрируя рабочие процессы анализа на основе ИИ для подтверждения…

Sentinel — входящий регулятор от DeanWay Labs. Охраняет то, что слышит ИИ-агент: контент из внешнего мира — это данные, а не приказы. Зеркальное…

Исследование безопасности сжатия контекста в кодирующих агентах: показывает, как поддельные метки ролей в недоверенном содержимом переживают…

Двухуровневый межсетевой экран для LLM, который блокирует входные данные с внедрением промптов с помощью правил regex и классификатора Gemini, а…