#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Экспериментальный Linux strace LLM агент
Статический сканер безопасности для пакетов навыков ИИ-агентов. Обнаруживает вредоносные файлы SKILL.md и встроенные скрипты до их запуска.

Код для статьи Certified Unlearning for Neural Networks, ICML 2025

Программная реализация «Pattern Enhanced Multi-Turn Jailbreaking: Exploiting Structural Vulnerabilities in Large Language Models»

Исследовательский набор инструментов для анализа поведенческих паттернов ИИ-агентов с помощью междисциплинарного анализа корпусов. Разбирает журналы…

Код в "DCVD: Dual-Channel Cross-Modal Fusion for Joint Vulnerability Detection and Localization"

SecureML - Защита моделей AL и нанесение водяных знаков

Docker Model Runner: RCE / побег из контейнера на хост: критическая уязвимость, позволяющая выполнять код из контейнера на хосте в бэкенде инференса…

Этот скрипт проверяет ИИ-агентов ServiceNow на наличие уязвимостей, таких как CVE-2025-12420, пробелов в управлении и рисков соответствия…

Автоматизированный высокоточный конвейер zero-shot оценки для модели CLIP от OpenAI на CIFAR-10. Особенности: точность 88.80%, устранение уязвимости…

Расширение Burp Suite, использующее сгенерированные ИИ правила regex-атак для обнаружения IDOR и ошибок контроля доступа, а затем сканирующее историю…

Плагин для IDA Pro, использующий OpenAI GPT-3.5/GPT-4 для автоматизации задач обратной разработки, таких как именование функций, объяснение кода и…

Демонстрирует устранение CVE под управлением ИИ-агента с криптографическим отслеживанием происхождения, показывая рабочий процесс обнаружения,…

Проклятый уязвимый MCP-сервер

Автоматизированный фреймворк для баг-баунти и разведки — объединяет Subfinder, Naabu, Httpx, Nuclei, Nmap, CVEMap, Gowitness, Katana и другие в…

Персональный ИИ-ассистент с фокусом на безопасность.

Кураторский список сканеров безопасности с открытым исходным кодом для LLM и веб-приложений, упорядоченный по звёздам, для поиска уязвимостей в…

MCP-сервер для статического анализа смарт-контрактов Solidity с помощью Slither