#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Бенчмаркинг обнаружения prompt-инъекций для веб-агентов.
Обнаруживает неизвестные jailbreak-атаки в больших визуально-языковых моделях с помощью анализа скрытых состояний и автоэнкодеров, включая конвейеры…

Держите приватные данные, внутреннюю инфраструктуру и секреты вне облачных агентов для программирования, не нарушая свой рабочий процесс.

Полевое руководство по Red Team для AI / LLM и справочник консультанта

Security training for the apps you actually ship. Open your browser and start hacking.

Сканируйте выводы LLM и контент, сгенерированный ИИ, на наличие сигналов эксфильтрации данных (EchoLeak, CVE-2025-32711), прежде чем они попадут к…

Agent Control Protocol (ACP) — Официальная англоязычная спецификация. Криптографически верифицируемая архитектура авторизации для автономных…

Syntactic Ghost: Незаметная универсальная бэкдор-атака на предварительно обученные языковые модели

Сканер безопасности для ваших агентных LLM-процессов

Обнаруживает атаки утечки контекста LLM путём обучения лёгких поведенческих зондов на log-вероятностях, с конвейерами обнаружения vLLM offline/server.

Инструментарий deepfake в реальном времени для тестирования на проникновение систем проверки личности и видеоконференций. Поддерживает замену лиц,…

Расширение для Burp Suite, которое добавляет OpenAI (GPT) в Burp и помогает в разведке Bug Bounty для обнаружения точек входа, параметров,…

VULNRΞPO - Бесплатный генератор отчетов об уязвимостях и репозиторий с сквозным шифрованием! Шаблоны проблем, CWE, CVE, MITRE ATT&CK, PCI DSS, импорт…

Цикл DevSecOps GitLab Duo, в котором второй ИИ повторно атакует каждое исправление, написанное ИИ, сохраняя каждый успешный обход как постоянное…

CyberRAG — полностью локальный RAG (Ollama) по конспектам и книгам по кибербезопасности: гибридный поиск, ответы со ссылками на источники, ассистент…

Плоскость управления безопасностью для LLM-агентов: списки разрешений, аварийный выключатель владельца, PIN-сессии, ограничения частоты запросов,…

ИИ-пентестер с открытым исходным кодом, который доказывает каждую находку. Машинные оракулы повторно запускают каждый эксплойт; подтверждённые баги…

Расширение цепочки кибератак Lockheed Martin для защитника, нацеленное на угрозы от LLM и агентных ИИ. Добавляет этап цепочки поставок моделей и…