Orbyx AI SPM - Gestion de la posture de sécurité de l'IA

La gestion de la posture de sécurité de l'IA (AI-SPM) est une approche globale pour maintenir la sécurité et l'intégrité des systèmes d'intelligence artificielle (IA) et d'apprentissage automatique (ML). Elle implique une surveillance, une évaluation et une amélioration continues de la posture de sécurité des modèles d'IA, des données et de l'infrastructure. L'AI-SPM comprend l'identification et la résolution des vulnérabilités, des mauvaises configurations et des risques potentiels associés à l'adoption de l'IA, ainsi que la garantie de conformité avec les réglementations pertinentes en matière de confidentialité et de sécurité.

Ce projet open source est dédié à la mise en œuvre d'une AI-SPM de niveau entreprise. Ce faisant, les organisations peuvent protéger de manière proactive leurs systèmes d'IA contre les menaces, minimiser l'exposition des données et maintenir la fiabilité de leurs applications d'IA (agents, serveurs MPC, modèles, etc.).

Votre organisation investit tout ce qu'elle a dans les applications d'IA — êtes-vous prêt à les sécuriser ?
Avant de répondre, réfléchissez à ces questions spécifiques :
Pouvez-vous identifier toute l'IA fantôme (y compris les modèles d'IA, les agents et les ressources associées) présente dans votre environnement ?
Sécurisez-vous efficacement les données d'IA pour prévenir l'empoisonnement des données, les biais et les violations de conformité ?
Savez-vous comment prioriser les risques critiques liés à l'IA avec contexte ?
Êtes-vous confiant de pouvoir détecter et répondre rapidement à une activité suspecte dans les pipelines d'IA ?
Si vous avez répondu « pas sûr » ou « non » à ne serait-ce qu'une de ces questions, alors vous devriez examiner ce projet de plus près. C'est le moyen de voir l'état actuel de la sécurité de votre écosystème d'IA.

Découvrez la sécurité de vos modèles d'IA, agents et ressources associées. Identifiez les risques dans les chaînes d'approvisionnement/pipelines d'applications d'IA et les agents - pouvant entraîner une exfiltration de données et une mauvaise utilisation des ressources. Mettez en œuvre des contrôles de gouvernance appropriés autour de l'utilisation de l'IA.

Déploiement rapide 101

Faites fonctionner Orbyx AI SPM localement en quelques étapes simples. Prérequis :

macOS :

brew install mkcert istioctl
mkcert -install

Ubuntu / Debian :

sudo apt-get update
sudo apt-get install -y libnss3-tools  # mkcert needs this to trust the CA in browsers (SSL suport)

Fedora / RHEL

sudo dnf install -y nss-tools

Toutes les distributions Linux

curl -fsSLo /tmp/mkcert "https://github.com/FiloSottile/mkcert/releases/latest/download/mkcert-v1.4.4-linux-amd64"
sudo install -m 0755 /tmp/mkcert /usr/local/bin/mkcert

curl -fsSL https://istio.io/downloadIstio | sh -
sudo install -m 0755 istio-*/bin/istioctl /usr/local/bin/istioctl

mkcert -install

Si vous êtes sur arm64 Linux, remplacez linux-amd64 par linux-arm64 dans l'URL de mkcert.

Étape 1 — Installer le cluster K8S (Kind)

Clonez le dépôt.

Démarrage (cluster propre)

Exécutez depuis /<project_root>. Chaque étape est idempotente.

  <project_root>/deploy/scripts/bootstrap-cluster.sh

De bout en bout sur une machine vierge : environ 20 minutes. Les exécutions suivantes qui ne font que redéployer le chart AISPM prennent environ 5 minutes.

Une fois le bootstrap terminé, naviguez vers :

Cliquez sur Connexion sur l'une ou l'autre page — compte de démo : admin / admin.

C'est tout ! Vous êtes opérationnel.

Aperçu de l'architecture

Plan de contrôle et chemin de données

Directives pour les Pull Requests

• Un sujet par PR — gardez les modifications ciblées et faciles à réviser
• Rédigez une description claire — ce qui a changé et pourquoi
• Incluez des tests — les nouvelles fonctionnalités et les corrections de bugs doivent être couvertes par des tests
• Passez la CI — tous les tests doivent être verts avant la révision
• Mettez à jour la documentation — si vous modifiez le comportement, mettez à jour le fichier .md correspondant

Nommage des branches :

Structure du projet

services/          # Microservices backend (Python / FastAPI)
ui/                # Frontend (React + Vite)
platform_shared/   # Modules Python partagés (JWT, Kafka, modèles)
spm/               # Définitions de politiques et conformité SPM
opa/               # Politiques OPA Rego
grafana/           # JSON des tableaux de bord et configuration de provisionnement
prometheus/        # Configuration de collecte
tests/             # Tests unitaires et d'intégration
scripts/           # Utilitaires de développement (création de JWT, etc.)

Signaler un problème

Veuillez ouvrir un GitHub Issue et inclure :

• Une description claire du problème
• Les étapes pour reproduire
• Les logs pertinents (sortie de make logs-api)
• Votre environnement (OS, version de Docker, architecture du processeur)

Style de code

• Python — suivez PEP 8 ; utilisez des annotations de type lorsque c'est pratique
• JavaScript — ESM standard ; aucune configuration de linting externe requise
• Commits — utilisez les Conventional Commits (feat:, fix:, docs:, etc.)