dshapi/ai-spmЭтот проект с открытым исходным кодом посвящен внедрению корпоративного уровня AI-SPM. Таким образом организации могут активно защищать свои системы ИИ от угроз, минимизировать утечку данных и поддерживать надежность своих приложений ИИ (агентов, серверов mpc, моделей и т.д.)
Управление безопасностью искусственного интеллекта (AI-SPM) — это комплексный подход к обеспечению безопасности и целостности систем искусственного интеллекта (ИИ) и машинного обучения (МО). Он включает непрерывный мониторинг, оценку и улучшение состояния безопасности моделей ИИ, данных и инфраструктуры. AI-SPM включает выявление и устранение уязвимостей, неправильных конфигураций и потенциальных рисков, связанных с внедрением ИИ, а также обеспечение соответствия соответствующим требованиям конфиденциальности и безопасности.
Этот проект с открытым исходным кодом посвящен внедрению AI-SPM на уровне предприятия. Таким образом, организации могут активно защищать свои системы ИИ от угроз, минимизировать раскрытие данных и поддерживать доверие к своим приложениям ИИ (агентам, серверам MPC, моделям и т. д.).
Ваша организация вкладывает все усилия в приложения ИИ — готовы ли вы их защитить?
Прежде чем ответить, подумайте над этими конкретными вопросами:
Можете ли вы выявить все теневые ИИ (включая модели ИИ, агенты и связанные ресурсы) в вашей среде?
Эффективно ли вы защищаете данные ИИ, чтобы предотвратить отравление данных, предвзятость и нарушения соответствия?
Знаете ли вы, как расставить приоритеты критических рисков ИИ с учетом контекста?
Уверены ли вы, что сможете быстро обнаружить и отреагировать на подозрительную активность в конвейерах ИИ?
Если вы ответили «не уверен» или «нет» хотя бы на один из этих вопросов, вам стоит внимательнее присмотреться к этому проекту. Это способ увидеть текущее состояние безопасности вашей экосистемы ИИ.
Обнаружьте безопасность ваших моделей ИИ, агентов и связанных ресурсов. Выявите риски в цепочках поставок/конвейерах приложений ИИ и агентах — которые могут привести к утечке данных и неправильному использованию ресурсов. Внедрите надлежащие средства контроля управления использованием ИИ.
Запустите Orbyx AI SPM локально за несколько простых шагов. Предварительные требования:
brew install mkcert istioctl
mkcert -install
sudo apt-get update
sudo apt-get install -y libnss3-tools # mkcert needs this to trust the CA in browsers (SSL suport)
sudo dnf install -y nss-tools
curl -fsSLo /tmp/mkcert "https://github.com/FiloSottile/mkcert/releases/latest/download/mkcert-v1.4.4-linux-amd64"
sudo install -m 0755 /tmp/mkcert /usr/local/bin/mkcert
curl -fsSL https://istio.io/downloadIstio | sh -
sudo install -m 0755 istio-*/bin/istioctl /usr/local/bin/istioctl
mkcert -install
If you're on arm64 Linux, swap linux-amd64 → linux-arm64 in the mkcert URL.
Клонируйте репозиторий.
Выполните из /<project_root>. Каждый шаг является идемпотентным.
<project_root>/deploy/scripts/bootstrap-cluster.sh
End-to-end на свежей машине: около 20 минут. Последующие запуски, которые только переразвертывают диаграмму AISPM, занимают около 5 минут.
После завершения начальной загрузки перейдите по адресу:
Нажмите Sign In на любой странице — демо-учетная запись: admin / admin.
Вот и все! Вы запущены и работаете.
.md файлИменование веток:
| Тип | Шаблон |
|---|---|
| Функция | feat/краткое-описание |
| Исправление ошибки | fix/краткое-описание |
| Документация |
services/ # Backend microservices (Python / FastAPI)
ui/ # Frontend (React + Vite)
platform_shared/ # Shared Python modules (JWT, Kafka, models)
spm/ # SPM policy and compliance definitions
opa/ # OPA Rego policies
grafana/ # Dashboard JSON and provisioning config
prometheus/ # Scrape config
tests/ # Unit and integration tests
scripts/ # Dev utilities (JWT minting, etc.)
Пожалуйста, создайте Issue на GitHub и включите:
make logs-api)feat:, fix:, docs:, и т. д.)
docs/краткое-описание| Рефакторинг | refactor/краткое-описание |