#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Набор данных подсказок на основе генеративного ИИ для кибербезопасности для бенчмаркинга больших языковых моделей
Промышленный инструмент для атак методом жадного координатного градиента (GCG) на большие языковые модели (LLM)

Репозиторий сгенерированных ИИ шаблонов Nuclei для публичных CVE, ещё не покрытых существующими шаблонами — повышает скорость и охват обнаружения 👾

Технические детали и эксплойт для CVE-2024-11394

Коллекция реальных эксплойтов AI/ML для ответственно раскрытых уязвимостей

Syntactic Ghost: Незаметная универсальная бэкдор-атака на предварительно обученные языковые модели

Proof-of-concept, демонстрирующий инъекцию подсказок в Langchain's GraphCypherQAChain, приводящую к SQL-инъекции в базах данных Neo4j. Включает…

Небольшая обвязка на Go, использующая Ollama для оркестрации LLM в ограниченном потоке процессов.

Многоуровневый детектор инъекций в промпты (prompt injection) для AI-приложений, использующий эвристики, анализ на основе LLM, сигнатуры атак на…

Курируемый список научных статей, обзоров и инструментальных наборов по бэкдор-обучению, систематизирующий атаки на основе отравления данных и методы…

Код для ACM MM2024 (Мультимодальные необучаемые примеры: защита данных от мультимодального контрастивного обучения)

Инструментарий deepfake в реальном времени для тестирования на проникновение систем проверки личности и видеоконференций. Поддерживает замену лиц,…

Доказательство концепции для CVE-2024-24590

0dAPI Официальная документация

Расширение для Burp Suite, которое интегрирует GPT от OpenAI для выполнения дополнительного пассивного сканирования с целью обнаружения…

Инструмент, который проверяет, уязвим ли экземпляр TorchServe для CVE-2023-43654

Найдите субдомены с помощью GPT, бесплатно

Курируемый список GPT-агентов для кибербезопасности