owasp/mosaicКоординационная структура для стандартов и руководств по безопасности ИИ, снижающая фрагментацию и обеспечивающая четкие рекомендации по защите систем ИИ в организациях.
MOSAIC обеспечивает координационную структуру для организаций, создающих стандарты и руководства по безопасности ИИ, уменьшая несогласованность, дублирование работы, рассогласование и пробелы. Конечная цель — позволить ландшафту стандартов и руководств давать чёткие указания по защите и контролю систем ИИ, которые мы всё чаще подключаем ко всему и которым доверяем наши чувствительные данные.
См. организации-участники MOSAIC.
См. дорожную карту.
См. MOSAICstandards.org.
Дополнительная информация в этом сообщении LinkedIn и в заметках с запускающего совещания.
Чтобы участвовать: см. руководство по внесению вклада. Обсуждения можно найти здесь.
Для чтения: см. этот README, или веб-сайт.
Типы пользователей:
Обещание ИИ подталкивает организации подключать его ко всему и доверять ему конфиденциальные данные. В разных отраслях это освоение происходит стремительно.
В то же время ИИ вносит новые риски. Системы уязвимы как к существующим, так и к новым типам атак, и для них требуются особые контрмеры. Многие организации ещё не готовы к этому. В результате системы ИИ быстро становятся привлекательными целями для злоумышленников.
Мы уже видим это в растущем числе инцидентов. Когда риски материализуются, инновации замедляются: проекты останавливаются, проектные решения пересматриваются, и значительные усилия тратятся на реагирование на инциденты и восстановление. То, что в начале выглядит как скорость, позже часто оборачивается задержками.
Существует явная потребность в практических руководствах: как выявлять угрозы, специфичные для ИИ, и что с ними делать. Это не обязательно должно быть сложно. При правильном подходе это на самом деле ускоряет разработку, предотвращая переделки и снижая неопределённость.
Сегодня над такими руководствами работает множество инициатив. Однако ландшафт фрагментирован. Практики сталкиваются с множеством фреймворков, пересекающимися рекомендациями и противоречивой терминологией. У каждой инициативы есть сильные стороны, но есть и слепые зоны.
Результат — путаница. Команды с трудом решают, чему следовать, сочетают несовместимые подходы или полностью отстраняются и полагаются на надежду. Это рискованная позиция, особенно в области, где сбои могут быстро масштабироваться.
Сильная склонность к риску в быстро меняющейся области, такой как ИИ, понятна. Но работа без чётких и согласованных руководств по безопасности — это не просчитанный риск, а подверженность угрозам. ИИ требует стратегического исследования.
Последние достижения в области обнаружения уязвимостей ИИ, такие как система обнаружения уязвимостей Mythos AI, ещё больше повышают актуальность. Они показывают, что слабые места в системах ИИ теперь можно находить быстрее и в масштабе — часто раньше, чем о них узнают разработчики. Это смещает баланс в сторону атакующих и сокращает запас на ошибку.
Именно поэтому координация имеет значение. Согласование стандартов и руководств между инициативами уменьшает фрагментацию, повышает ясность и даёт практикам последовательный путь вперёд. Это позволяет организациям двигаться быстро, не теряя контроль.
Публичный сайт — это статический сайт на Hugo (контент в Markdown, общие макеты, CSS в static/assets/), развёрнутый на Firebase Hosting через GitHub Actions.
content/mosaic/content/*.md (только markdown)content/mosaic/data/menu.yamlСайт использует GoatCounter для дружественной к конфиденциальности статистики просмотров страниц без использования cookie (https://mosaic.goatcounter.com). Личные данные не собираются. Подробнее см. CONTRIBUTING.md.