Курируемый индекс атак и защит на основе глубокого обучения, направленных на задержку, энергопотребление-задержку и тайминги (доступность) — дополнение к публикации в ACM Computing Surveys.
Этот репозиторий поддерживается как сопутствующий ресурс к обзору «Deep Learning Latency Attacks and Defenses: A Cross-Domain Survey». Он индексирует статьи, ссылки на код, заметки по таксономии и иллюстрации, посвящённые угрозам доступности, ориентированным на задержку, в развёрнутых системах ИИ.
Список сосредоточен на атаках и защитах, которые влияют на стоимость во время инференса или на системном уровне — задержку, энергопотребление, нагрузку на пропускную способность и пропущенные дедлайны — а не на атаках, которые лишь изменяют предсказания модели. В настоящее время он включает 110 работ (71 атака на этапе инференса, 13 атак на этапе обучения, 26 защит).
Ищите и фильтруйте каталог в интерактивной таблице на GitHub Pages.
Рисунок 1. Обзор структуры обзора.
Рисунок 2. Атаки на задержку как угрозы доступности на системном уровне.
Атаки на задержку — это атаки на доступность: вместо искажения предсказания злоумышленник раздувает время вычислений при инференсе, энергопотребление или реальную задержку модели, так что потребитель, работающий в реальном времени (контроллер транспортного средства, интерактивный сервис, сенсор с батарейным питанием), пропускает свой дедлайн или исчерпывает свои ресурсы — часто при том, что само предсказание остаётся номинально корректным. Это связывает развёрнутые системы ИИ, эксплуатируемые атаками узкие места, усиление промежуточной работы, отказы на системном уровне и точки контроля защиты.
Каждое семейство атак использует один механизм, который мы называем усилением промежуточной работы: злоумышленник заставляет некоторую последующую стадию (NMS, self-attention, авторегрессионное декодирование, маршрутизацию экспертов) обрабатывать больше промежуточных объектов, токенов или шагов, чем породил бы доброкачественный вход. Поскольку эти стадии имеют сверхлинейную сложность в худшем случае, умеренное увеличение количества даёт непропорциональный рост стоимости. Естественная кросс-доменная защита — это бюджет работы — принудительно установленный предел на промежуточные объекты/токены в единицу времени.
