#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Код для статьи Certified Unlearning for Neural Networks, ICML 2025

[CVPR 2025-ADVML] Официальный репозиторий для `Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks`

Коллекция примеров моделей угроз из реального мира для различных технологий, предоставляющая практические знания о выявлении и снижении рисков…

Flow Integrity Deterministic Enforcement System. Механизмы обеспечения безопасности ИИ-агентов с контролем информационных потоков.

AISA-Scanner — это автономный сканер уязвимостей на основе ИИ, который сопоставляет CVE с эксплойтами Metasploit, MITRE, CEH и SANS, предоставляя…

Автоматизированный инструмент обнаружения стеганографии, который сканирует веб-сайты, веб-серверы и локальные каталоги, используя AI-распознавание…

Устойчивая к атакам архитектура глубокого обучения для безопасной indoor-локализации в сетях 5G, объединяющая CNN и multi-head attention для защиты…

Этот репозиторий содержит официальную реализацию POISONCRAFT: практическое отравление генерации с дополненной выборкой (RAG) для больших языковых…

Интерактивное CLI-приложение для взаимодействия с аутентифицированными экземплярами Jupyter.

Реализация искажающего свободного текстового водяного знака на основе оптимальной связи для встраивания обнаруживаемых сигналов в текст,…

Набор инструментов для оценки уязвимостей и эксплуатации с использованием ИИ для модульного сканирования веб-приложений, обнаружения SQLi, XSS, RCE,…

Используйте LLM для ранжирования документов

Подробный бюллетень безопасности для CVE-2025-492025, документирующий уязвимость искажения пользовательского интерфейса в Copilot AI, которая…

Стандартизированный бенчмарк устойчивости к состязательным атакам с публичной таблицей лидеров и загружаемым зоопарком моделей для оценки ML-моделей…

vllm-project vllm version 0.5.2.2 уязвим для атак типа «Отказ в обслуживании».

Движок сопоставления шаблонов промптов, вдохновлённый YARA, который объединяет правила на основе ключевых слов, регулярных выражений, семантического…

Подробный технический анализ CVE-2024-5452, уязвимости удаленного выполнения кода в PyTorch Lightning через загрязнение свойства дельты DeepDiff, с…

Сканирует Shodan на предмет публично доступных серверов Ollama и llama.cpp, перечисляя хосты, местоположения и доступные модели для исследований в…