Библиотека интерактивных тренингов по повышению осведомлённости в области безопасности с открытым исходным кодом: более 130 упражнений SCORM по фишингу, вишингу, BEC, усталости от MFA и сценариям OWASP AI/LLM для развёртывания в LMS.
130+ бесплатных упражнений с открытым исходным кодом для обучения сотрудников основам информационной безопасности — практические интерактивные SCORM-модули, охватывающие обучение распознаванию фишинга, GDPR, безопасность ИИ и многое другое. Создано для тех, кто хочет усваивать материал и делиться им с другими.
👥 Поговорить с основателями | 🔗 Просмотреть всю библиотеку | 🎮 Попробовать живое демо по распознаванию фишинга
Большинство курсов по информационной безопасности забываются: скучные слайды, бездушные видео и, в последнее время, материалы, сгенерированные ИИ, которые отталкивают людей. Проблема не в самом контенте — а в формате, потому что пассивное обучение не формирует привычек. Люди досматривают 10-минутное видео, нажимают «Завершено» и ничего не помнят, когда это действительно важно.
Эта бесплатная библиотека обучения информационной безопасности с открытым исходным кодом предлагает другой подход.
Каждое упражнение погружает вас в интерактивную 3D-среду офиса, где вы сталкиваетесь с реалистичными инцидентами от первого лица. Вы взаимодействуете с реальными объектами — телефоном, компьютером с работающей ОС (браузер, терминал, Zoom), флипчартом — и принимаете решения в условиях стресса, как за своим рабочим столом.
Сценарии включают, например:
Цель — сформировать мышечную память, чтобы, когда на работе происходит что-то плохое, люди вспоминали, что уже сталкивались с этим раньше, и действовали соответственно. Каждое упражнение завершается тестом с порогом прохождения 100%, чтобы подтвердить, что знания закрепились.
Каждое упражнение представляет собой SCORM .zip-файл — готовый к импорту в любую LMS, встраиванию в существующий учебный процесс или тестированию на SCORM Cloud перед развёртыванием. Это делает данный вариант одним из самых простых бесплатных способов обучения информационной безопасности для внедрения среди всех сотрудников.
В корне репозитория находятся полные курсовые пакеты. Папка Individual Exercises содержит отдельные упражнения, если вы хотите собрать собственную учебную программу.
Контент полностью white-labeled — без логотипов, обратных ссылок и каких-либо обязательств. Используйте его как угодно; подробнее об этом ниже.
Вы можете свободно использовать, встраивать и обучать с помощью этого контента — в личных, профессиональных или коммерческих целях на воркшопах. Перераспространение или перепродажа контента как отдельного продукта запрещены.
Эта библиотека обучения информационной безопасности с открытым исходным кодом распространяется по лицензии CC BY-NC 4.0. Бесплатное использование и распространение с указанием авторства. Коммерческая перепродажа контента запрещена.
Мы также предлагаем корпоративное облачное LMS со всем контентом для обучения информационной безопасности уже внутри. Если вы хотите получить обучение без хлопот по установке и управлению LMS, напишите нам. Функциональность LMS включает, но не ограничивается:
LMS изначально мультитенантная, создана для предоставления обучения информационной безопасности по всему портфелю клиентов из одного места:
Если вам это интересно, пожалуйста, свяжитесь с нами
Перехват целей ИИ-агента — Остановите автономного ИИ-агента, которого пытается перенаправить заражённое письмо со скрытыми инструкциями: выявляйте скрытые инструкции во входящих данных, перенаправляющие цели агента, прослеживайте, как агент с перехваченными целями переключается с легитимных задач на кражу данных, и применяйте стратегии валидации входных данных, не позволяющие агенту воспринимать данные как инструкции.
Эксплуатация инструментов ИИ-агента — Не дайте ИИ-агенту поддаться манипуляции и использовать свои легитимные инструменты для удаления файлов и отправки несанкционированных сообщений: определяйте, как неоднозначные промпты заставляют агентов злоупотреблять легитимным доступом к инструментам, прослеживайте деструктивные вызовы инструментов, вызванные изменёнными входными параметрами, и применяйте политики минимальных привилегий для доступа к инструментам, чтобы сдержать их эксплуатацию.
Злоупотребление идентичностью и привилегиями агента — Не дайте ИИ-агенту повторно использовать унаследованные учётные данные с высокими привилегиями для доступа к системам за пределами его полномочий: прослеживайте, как агенты наследуют и распространяют пользовательские учётные данные в разных системных контекстах, выявляйте уязвимости «замешанного посредника» (confused deputy), когда привилегии агента превышают намеренную область, и применяйте ограниченную делегацию учётных данных для предотвращения межконтекстного повышения привилегий.
Атака на цепочку поставок агентного ИИ — Исследуйте сторонний ИИ-плагин с бэкдором, который незаметно меняет поведение агента и похищает чувствительные данные: выявляйте аномалии поведения, указывающие на скомпрометированный сторонний ИИ-компонент, прослеживайте пути утечки данных через плагины с бэкдором и MCP-серверы, и применяйте практики проверки цепочки поставок перед интеграцией внешних ИИ-инструментов.
Внедрение кода в ИИ-агента — Поймайте ИИ-ассистента по коду, прежде чем он выполнит shell-скрипт со внедрёнными командами, которые скомпрометируют вашу систему: выявляйте внедрённые команды, скрытые в сгенерированном ИИ коде и shell-скриптах, прослеживайте, как пользовательский ввод попадает через генерацию кода в выполнение вне песочницы, и применяйте практики ревью кода и песочниц для скриптов, сгенерированных ИИ, перед выполнением.
OpenClaw Prompt Injection — Остановите утечку данных через ИИ-ассистента с помощью скрытых промптов: выявляйте скрытые инструкции в документах, предотвращайте кражу данных через ИИ-инструменты и распознавайте паттерны инъекций в промпты.
Раскрытие чувствительных данных через ИИ — Узнайте, что происходит, когда конфиденциальные данные попадают в пользовательский ИИ-инструмент: распознавайте категории чувствительных данных, которые никогда не должны попадать в промпты ИИ, прослеживайте, как вставленный контент сохраняется в обучающих данных и логах ИИ, и применяйте политики классификации данных перед использованием ИИ-инструментов.
Компрометация цепочки поставок ИИ — Разверните ИИ-плагин, скрывающий бэкдор на виду: выявляйте риски цепочки поставок в сторонних ИИ-моделях и плагинах, обнаруживайте аномалии поведения в ИИ-компонентах из внешних источников и применяйте процедуры проверки перед развёртыванием ИИ-инструментов из маркетплейса.
Отравление обучающих данных ИИ — Наблюдайте в реальном времени, как отравленные документы искажают ответы вашего ИИ: прослеживайте, как изменённые документы влияют на результаты, сгенерированные ИИ, выявляйте признаки отравления данных в ответах ИИ и применяйте контроль целостности контента для входных данных базы знаний.
Небезопасная обработка выходных данных ИИ — Эксплуатируйте ИИ, чьи выходные данные без проверки попадают в реальные системы: выявляйте риски инъекций, когда выходные данные ИИ поступают в нижестоящие системы, прослеживайте, как необработанные выходные данные ИИ позволяют выполнять код, и применяйте контроль валидации выходных данных между ИИ и подключёнными системами.
ИИ-агент с избыточными правами — Сманипулируйте ИИ-ассистентом, чтобы он злоупотребил собственными разрешениями: выявляйте избыточные разрешения, выданные ИИ-агентам, прослеживайте несанкционированные действия, выполняемые скомпрометированными ИИ-инструментами, и применяйте принципы минимальных привилегий к конфигурациям ИИ-агентов.
— Извлеките скрытые инструкции из клиентского ИИ-чатбота: применяйте техники извлечения промптов к работающему ИИ-чатботу, выявляйте чувствительную информацию, раскрытую через утёкшие системные промпты, и применяйте методы усиления промптов для предотвращения раскрытия системных инструкций.
HTTPS и безопасность веб-сайтов — Узнайте, почему значок замка не является доказательством безопасности: оценивайте реальные предупреждения о сертификатах, просроченные сертификаты и несоответствующие TLS-сертификаты на симулированных веб-сайтах.
Безопасный просмотр веб-сайтов и загрузки — Замечайте вредоносные загрузки до их запуска: перемещайтесь по поддельным сайтам вендоров, обманчивым предложениям обновлений и ловушкам drive-by-загрузок, маскирующим вредоносное ПО под легитимное программное обеспечение.
Осведомлённость о тайпсквоттинге — Распознавайте доменные уловки, которые используют злоумышленники: выявляйте похожие URL, домены с переставленными символами и гомографические атаки, почти неотличимые в адресной строке вашего браузера.
Риски автозаполнения в браузере — Скрытые поля форм незаметно похищают ваши автозаполненные данные: это демонстрируется на реалистичном сценарии, где коллега, сам того не зная, отправляет данные кредитной карты и домашний адрес на страницу, контролируемую злоумышленником.
Безопасность браузерных расширений — Это полезное расширение может красть всё: проследите криминалистическую временную шкалу того, как высокорейтинговое расширение для продуктивности похищало данные с устройства ничего не подозревающего пользователя.
Злоупотребление уведомлениями браузера — Распознавайте поддельные CAPTCHA-запросы, созданные для перехвата разрешений на уведомления, и научитесь отзывать доступ к вредоносным push-уведомлениям, прежде чем злоумышленники перейдут к фишингу учётных данных.
Привычки использования менеджера паролей — Сформируйте надёжные привычки работы с менеджером паролей: перенесите слабые и повторно используемые пароли в хранилище, создайте уникальные замены и используйте автозаполнение как инструмент обнаружения фишинга.
Осведомлённость о минимальных привилегиях — Сведите доступ к минимуму, необходимому для работы: проверяйте реалистичные назначения разрешений, отзывайте устаревшие права администратора и отмечайте общие сервисные учётные записи и истёкшие учётные данные подрядчиков.
Осведомлённость о сценариях приёма, перевода и увольнения сотрудников — Управляйте правами доступа при смене ролей: проработайте сценарии онбординга, горизонтальных переводов и офбординга, включающие исключения для руководителей, пересланные файлы и запросы экстренного доступа.
Настройка MFA и лучшие практики — Настройте многофакторную аутентификацию правильно: сравните SMS, приложения-аутентификаторы и аппаратные ключи, а также научитесь распознавать и отражать атаки push-уведомлений, вызывающие MFA-усталость.
Осведомлённость об атаках credential stuffing — Узнайте, как утёкшие пароли питают автоматизированные атаки: проследите живой инцидент credential stuffing, выявите скомпрометированные учётные записи и разорвите цикл повторного использования паролей.
Безопасность восстановления учётных записей — Защитите восстановление учётной записи от социальной инженерии: отработайте процедуры проверки личности под давлением убедительного звонящего, выдающего себя за заблокированного сотрудника.
Основы привилегированного доступа — Узнайте, почему административные учётные записи требуют особого обращения: сравните рабочий процесс доступа just-in-time с инцидентом, где повседневное использование привилегированной учётной записи дало злоумышленнику немедленный доступ к инфраструктуре.
Ransomware — Выживите при атаке ransomware в реальном времени: принимайте быстрые решения по сдерживанию, пока файлы шифруются, программы выходят из строя, а вредоносное ПО распространяется по общим дискам и сетевым ресурсам.
Атака с подброшенным USB-накопителем — Хорошо подумайте, прежде чем вставлять USB-накопитель: испытайте симулированную атаку с автозапуском, включая полезные нагрузки Rubber Ducky, которые компрометируют систему менее чем за 10 секунд.
Лучшие практики резервного копирования — Создайте план резервного копирования, который переживёт ransomware: изучите правило 3-2-1, поймите разницу между синхронизацией и настоящим резервным копированием и узнайте о реальных последствиях типичных сбоев резервного копирования.
Шифрование и дисциплина блокировки — Отработайте привычки, защищающие устройства без присмотра: посмотрите, чего злоумышленник может добиться за 90 секунд на незаблокированном ноутбуке, затем настройте автоблокировку и проверьте полное шифрование диска.
Обновления ОС и основы установки патчей — Узнайте, как пропуск обновлений открывает реальные пути атак: проследите, что исправляла отложенная заплатка безопасности и как быстро злоумышленники превращают недавно опубликованные CVE в оружие.6. Обновление конечных точек и оповещения EDR — Узнайте, что означает ваше оповещение EDR и что делать дальше: разбирайте аномалии активных процессов, изменения реестра и необычные сетевые подключения, чтобы решить — игнорировать, расследовать или эскалировать.
Практики безопасного использования Bluetooth — Ваши наушники передают в эфир больше, чем музыку — проверьте сопряжённые устройства, настройте режим скрытности и разберитесь в семействах уязвимостей BlueBorne, KNOB и BLUFFS, которые эксплуатируют обнаруживаемые Bluetooth-соединения.
Осведомлённость о расширениях файлов — Выглядит как PDF, а работает как вредоносная программа — научитесь замечать уловки с двойными расширениями, определять истинный тип файлов и выявлять опасные расширения, такие как .scr, .cmd, .vbs и .ps1.
Утечка данных — Остановите утечку конфиденциальных данных из вашей организации: разберите ошибочно отправленные письма, скрытые метаданные документов, незащищённые файловые ресурсы и менее очевидные каналы утечки, такие как ИИ-инструменты и демонстрация экрана.
Основы классификации данных — Правильно маркируйте данные по уровню чувствительности: распределите реальные документы по категориям Public, Internal, Confidential и Restricted и применяйте для каждой из них корректные правила хранения, обмена и удаления.
Предотвращение кражи личности — Выявляйте тактики кражи личности, направленные на сотрудников: распознавайте убедительные письма с имитацией HR, оставленные без присмотра личные дела и звонящих, которые владеют достаточными личными данными, чтобы звучать правдоподобно.
Практики безопасного обмена — Делитесь файлами безопасно, не создавая брешей в защите: оценивайте типичные сценарии обмена и узнайте, чем защищённая паролем ссылка с ограниченным сроком действия отличается от незашифрованного вложения в письме.
Общие правила сообщения об инцидентах — Знайте, когда и как сообщать об инциденте безопасности. Понимайте, что считается инцидентом, правильно заполняйте отчёт о безопасности, разберитесь в сроках и пороговых значениях для сообщения об инцидентах.
Культура сообщения об инцидентах — Создайте команду, которая сообщает об инцидентах без страха. Практикуйте безобвинительные отчёты об инцидентах, понимайте принципы психологической безопасности, применяйте авиационную концепцию CRM
Вишинг — Пройдите реалистичный голосовой фишинговый звонок: научитесь выявлять подмену номера вызывающего абонента, практикуйте проверку обратным звонком по официальным номерам и противостойте давлению срочности и авторитета со стороны убедительного самозванца.
Фишинг — Заметьте фишинговое письмо до того, как нажать на ссылку: изучайте поддельные адреса отправителей, наводите курсор на несоответствующие URL и выявляйте тактики эмоционального давления, которые приводят к краже учётных данных.
Двухэтапный фишинг — Распознайте ловушку доверия из двух писем: определите безобидное подготовительное сообщение и вредоносное продолжение, эксплуатирующее доверие, установленное при первом контакте.
Уэйлинг с дипфейком — Распознайте созданного ИИ руководителя на видеозвонке: выявляйте признаки дипфейка во время живого совещания и проверяйте личность, прежде чем авторизовать необратимый денежный перевод.
Социальная инженерия — Распознайте манипуляцию, прежде чем поддадитесь: стойте на своём против звонящего, который использует авторитет, взаимность и искусственную срочность, а затем перенаправьте проверку через официальные каналы.
Компрометация деловой почты — Остановите мошенничество с переводами от имени генерального директора: выявляйте письма с имитацией руководителя, проверяйте запросы на оплату по внешним каналам и понимайте, почему BEC ежегодно приносит многомиллиардные убытки.
Смишинг — Находите мошенничество, скрытое в SMS: не спешите реагировать на срочные уведомления о доставке и банковские оповещения, проверяйте информацию через официальные каналы и никогда не открывайте сокращённые URL.
Фишинг с обратным звонком — Разберитесь с поддельным счётом, который должен заставить вас позвонить: выявляйте паттерны атак TOAD, замечайте фальшивые счета с номерами для обратного звонка и реагируйте, не нажимая на ссылки.
Управление согласием на маркетинг — Создавайте принимаемые регуляторами потоки согласия: проектируйте их по стандартам статьи 7 GDPR, стройте систему записи согласий и обрабатывайте запросы на отзыв согласия в реальном времени.
Выявление мошеннических DSAR — Выявляйте поддельные запросы на доступ к данным, используемые для социальной инженерии: перед ответом оценивайте входящие DSAR на предмет несоответствий личности, формулировок срочности и несовпадающих контактных данных.
Реагирование на утечку данных — Проведите триаж утечки и уложитесь в 72-часовой срок уведомления: оценивайте серьёзность инцидента, составляйте уведомление в надзорный орган и принимайте решения о том, что подлежит уведомлению по статье 33.
Проверка сторонних обработчиков данных — Оценивайте меры обработки данных вендора до подписания договора: проверяйте сертификаты безопасности, договорённости с субпроцессорами, процедуры уведомления об утечках и пункты DPA, которые не соответствуют требованиям статьи 28.
Реагирование на инциденты безопасности — Координируйте работу команд безопасности и конфиденциальности во время реальной утечки: ведите параллельные рабочие потоки, балансируя приоритеты локализации с оценкой персональных данных и сроками уведомления по статье 33.
Проверка Privacy by Design — Оценивайте функцию продукта через призму конфиденциальности: применяйте проверки минимизации данных по статье 25 и ориентируйтесь в реальных компромиссах между функциональностью и конфиденциальностью при запросах на отслеживание поведения.
Обработка легитимных DSAR — Обработайте запрос субъекта данных от начала до конца: проверьте личность запрашивающего, выполните поиск по CRM, архивам почты, аналитике и резервным копиям, затем составьте и отредактируйте ответ в течение 30 дней.
— Разберитесь в механизмах передачи данных за пределы ЕЭЗ: оценивайте решения об адекватности защиты, выбирайте стандартные договорные положения и проводите оценку влияния передачи данных в соответствии с решением по делу Schrems II.
Чрезмерная публикация в соцсетях — Узнайте, как злоумышленники используют ваши публичные профили: откройте для себя, как фото с отпуска, пост о дне рождения и отметка на конференции могут сложиться в профиль, позволяющий проводить высокоперсонализированные атаки.
Контроль общего доступа в облаке — Проверьте, кто прямо сейчас видит ваши общие файлы: разберитесь в запутанной истории разрешений, ужмите доступ до минимально необходимого уровня и установите сроки действия в условиях дефицита времени.
Управление гостевым доступом — Управляйте тем, к чему внешние пользователи имеют доступ и как долго: проверяйте неактивные гостевые аккаунты, отзывайте доступ у вендоров, чьи проекты завершены, и создавайте структурированный чек-лист отключения доступа.
Практики безопасного обмена сообщениями — Остановите утечку конфиденциальных данных через приложения для чата: замечайте случаи, когда пароли, персональные данные клиентов или фотографии досок были переданы небрежно, и изучайте правильные каналы для конфиденциальной информации.
Политика использования соцсетей — Узнайте, что нельзя публиковать в корпоративных аккаунтах: оцените реальные сценарии, в которых посты в LinkedIn и офисные фотографии непреднамеренно раскрывали детали сделок, данные клиентов и сведения о внутренних системах.
Риски OAuth сторонних приложений — Проверьте, чему вы разрешили доступ: оцените, соответствуют ли запрашиваемые новым приложением разрешения его реальным функциям, и проверьте приложения, подключённые через OAuth, на предмет избыточного или ненужного доступа.
Инсайдерская угроза (намеренная) — Распознавайте предупреждающие признаки злонамеренного инсайдера: замечайте паттерн доступа к файлам в нерабочее время и массовые передачи через USB, прежде чем ущерб достигнет точки невозврата.
Осведомлённость о теневых ИТ — Узнайте, что происходит, когда команды используют несогласованные приложения: проследите, что происходило за кулисами, когда конфиденциальная таблица была загружена в бесплатный онлайн-конвертер без соглашения об обработке данных.
Атаки на основе изображений (Stegosploit) — Файл изображения может нести в себе больше, чем пиксели: исследуйте портфолио подрядчика, скрывающее JavaScript-нагрузку внутри JPEG, и изучите три метода стеганографических атак и способы их обнаружения.
Инсайдерская угроза (случайная) — Одно неверное вложение — и сорок семь зарплат раскрыты. Проживите инцидент с ошибочно отправленным письмом от срабатывания DLP до полного процесса сообщения об инциденте.
Гигиена инструментов совместной работы — Один ярлык в Slack — и учётные данные повсюду. Проверьте интеграции каналов и доступ бывших сотрудников, обнаружив, что вставленные учётные данные базы данных были выведены через устаревший вебхук.
Использование VPN и безопасность — Настраивайте и используйте VPN без пробелов в защите: на собственном опыте узнайте реальные последствия разрыва соединения в середине сеанса в общедоступном Wi-Fi, включая раскрытие учётных данных и незашифрованную передачу файлов.
Безопасность домашнего маршрутизатора — Узнайте, кто ещё находится в вашей домашней сети: выявляйте несанкционированные подключённые устройства, меняйте учётные данные администратора по умолчанию, отключайте WPS, включайте WPA3 и распознавайте признаки подмены DNS.
Взлом MGM Resorts — Переживите 10-минутный звонок в службу поддержки, который обошёлся в 100 миллионов долларов: проследите цепочку атаки Scattered Spider от разведки в LinkedIn через вишинг-звонок до развёртывания программы-вымогателя ALPHV/BlackCat.
Атака через email с OneNote — Проследите реальную аферу BEC, построенную на неделях слежки за почтовым ящиком: получите счёт-перенаправление с домена-имитатора, который использует реальные детали проекта и точную правильную сумму, чтобы пройти проверку.
Основы мышления аудитора — Думайте как аудитор, чтобы находить пробелы в соответствии требованиям раньше внешних проверяющих: проверяйте, соответствуют ли политики паролей реальному поведению, проводите ревизии доступа и выявляйте расхождения между письменными процедурами и повседневной практикой.
Обучение работе с порталом аудита — Работайте с GRC-порталами и предоставляйте аудиторские доказательства. Правильно загружайте и помечайте доказательства соответствия, доводите задачи по устранению замечаний до закрытия, избегайте типичных ошибок при отправке на портал
Обязанности сотрудников по безопасности — Знайте свои личные обязанности по безопасности на работе. Распознавайте риски прохода посторонних и обмена учётными данными, сообщайте об инцидентах по правильным каналам, защищайте физические и цифровые точки доступа
Осведомлённость о политиках ISMS — Свяжите политики ISO 27001 с повседневной работой. Сопоставляйте политики ISMS с реальными рабочими ситуациями, понимайте структуру политик ISO 27001, замечайте пробелы между политикой и ежедневной практикой.
Допустимое использование интернета и электронной почты — Оставайтесь в рамках корпоративных политик использования интернета и почты. Распознавайте рискованное поведение при пересылке писем, понимайте границы использования личных устройств на работе, избегайте типичных нарушений правил допустимого использования
Topics: обучение повышению осведомлённости о безопасности · бесплатное обучение повышению осведомлённости о безопасности · бесплатное обучение повышению осведомлённости о безопасности для сотрудников · обучение повышению осведомлённости о безопасности с открытым исходным кодом · обучение сотрудников распознаванию фишинга · бесплатное обучение распознаванию фишинга · обучение сотрудников повышению осведомлённости о безопасности · обучение повышению осведомлённости о кибербезопасности · обучение сотрудников повышению осведомлённости о безопасности · SCORM-обучение повышению осведомлённости о безопасности · симуляция фишинга · обучение по GDPR · управление человеческими рисками
Отравление памяти ИИ-агента — Обнаруживайте враждебный контент, внедрённый в постоянную память ИИ-агента и искажающий все будущие решения: выявляйте отравленные записи в постоянной памяти агента и контексте извлечения, прослеживайте, как повреждённая память влияет на последующие решения агента между сессиями, и применяйте проверку целостности памяти для обнаружения и удаления враждебного контента.
Подделка связи между агентами — Перехватывайте и выявляйте поддельные сообщения между ИИ-агентами в мультиагентном рабочем процессе, прежде чем сфабрикованные инструкции нанесут вред: обнаруживайте поддельные идентичности агентов и сфабрикованные сообщения в каналах связи между агентами, прослеживайте, как неаутентифицированные межагентные сообщения позволяют проводить атаки «человек посередине», и применяйте аутентификацию сообщений и проверку идентичности агентов для защиты мультиагентных систем.
Каскадный отказ мультиагентной системы — Локализуйте незначительную ИИ-галлюцинацию, прежде чем она через нижестоящие агентов перерастёт в катастрофический системный отказ: прослеживайте распространение ошибки от галлюцинации одного агента через множество нижестоящих систем, выявляйте точки усиления, где небольшие ошибки превращаются в катастрофические последствия, и применяйте паттерны автоматических выключателей (circuit breaker) и контрольные точки с участием человека, чтобы прерывать каскадные отказы агентов.
Чрезмерное доверие рекомендациям ИИ-агента — Выявите серию скомпрометированных рекомендаций ИИ-агента, которые используют ваше доверие для одобрения мошеннического перевода и изменения кода с бэкдором: распознавайте паттерны предвзятости к автоматизации, когда стабильная точность ИИ создаёт ложную уверенность, выявляйте тонкие аномалии в рекомендациях ИИ, указывающие на манипуляцию или компрометацию, и применяйте структурированные процессы проверки, устойчивые к социальной инженерии через ИИ-интерфейсы.
Обнаружение недобросовестного ИИ-агента — Исследуйте скомпрометированного ИИ-агента, который выглядит работоспособным, но незаметно выполняет несанкционированные действия и уклоняется от мониторинга: выявляйте скрытые несанкционированные действия агента, который выглядит работающим нормально, прослеживайте механизмы устойчивости, позволяющие недобросовестным агентам переживать перезагрузки и проверки мониторинга, и применяйте поведенческий анализ и обнаружение аномалий, чтобы отличать недобросовестных агентов от легитимных.
Эксплуатация RAG-пайплайна — Эксплуатируйте RAG-пайплайн для доступа к документам, выходящим за пределы ваших полномочий: выявляйте сбои контроля доступа при поиске в векторной базе данных, прослеживайте, как враждебные эмбеддинги искажают результаты поиска, и применяйте проверки авторизации на уровне поиска в RAG-системах.
ИИ-галлюцинации и дезинформация — Выявляйте сфабрикованную статистику и фальшивые цитаты в ИИ-отчёте: обнаруживайте галлюцинированные факты и вымышленные источники в выходных данных ИИ, проверяйте заявления, сгенерированные ИИ, по авторитетным источникам и применяйте процессы фактчекинга к бизнес-контенту, созданному с помощью ИИ.
ИИ-атака типа «отказ в обслуживании» — Запустите атаку «отказ в кошельке» против незащищённого ИИ-API: выявляйте векторы истощения ресурсов в конечных точках ИИ-API, прослеживайте, как специально созданные промпты экспоненциально увеличивают вычислительные затраты, и применяйте ограничение частоты запросов и контроль бюджета для развёртывания ИИ-сервисов.
Целевой фишинг — Ваш публичный профиль LinkedIn — это методичка для злоумышленника. Проследите, как один пост в соцсети позволяет создать полностью персонализированное фишинговое письмо с порталом для сбора учётных данных.
QR-фишинг (Quishing) — Этот QR-код обходит все ваши почтовые фильтры. Пройдите реалистичную цепочку атаки quishing и научитесь проверять назначение QR-кода, прежде чем сканировать его на мобильном устройстве.
Аферы от имени техподдержки — Предупреждение о вирусе и есть сама атака. Распознавайте поддельные системные оповещения в браузере, отказывайте в запросах на удалённый доступ незваным звонящим и узнайте, почему Ctrl+Alt+Delete — правильная первая реакция.
Социальная инженерия в WhatsApp — Ваш «начальник» в WhatsApp — не ваш начальник. Проживите разговор с выдачей себя за другое лицо в реальном времени, который перерастает в аферу с подарочными картами, и узнайте, почему мессенджеры — излюбленный канал атак.
Отравление SEO-выдачи — Лучшие результаты поиска не всегда заслуживают доверия. Выявляйте отравленную страницу загрузки ПО, проверяйте подлинность по подписям издателя и хешам файлов и переходите напрямую на официальные сайты вендоров.
Удаление персональных данных из документов — Редактируйте персональные данные в документах перед раскрытием: узнайте, почему чёрные прямоугольники и неудалённые метаданные могут раскрыть то, что вы считали удалённым.
Оценка воздействия на защиту данных — Проведите DPIA для высокорисковой операции по обработке данных: разберите триггеры статьи 35, карту рисков, оценку соразмерности и подготовьте документацию, отвечающую законодательным требованиям к содержанию.
Картирование данных и реестры обработки — С нуля создайте реестр обработки по статье 30: проведите интервью о потоках данных во всех отделах и свяжите разрозненные практики обработки в целостный, соответствующий требованиям реестр RoPA.
