
Lo Standard di Verifica della Sicurezza dell'IA (AISVS) si concentra sul fornire a sviluppatori, architetti e professionisti della sicurezza una checklist strutturata per verificare la sicurezza delle applicazioni basate sull'IA.
Quest'opera è distribuita con licenza Creative Commons Attribuzione-Condividi allo stesso modo 4.0 Internazionale.
L'Artificial Intelligence Security Verification Standard (AISVS) è un catalogo, guidato dalla community, di requisiti di sicurezza verificabili per sistemi abilitati all'IA. Fornisce a sviluppatori, architetti, ingegneri della sicurezza e auditor un framework strutturato per progettare, costruire, testare e verificare la sicurezza delle applicazioni di IA lungo tutto il loro ciclo di vita, dalla raccolta dei dati e l'addestramento dei modelli fino al deployment, al monitoraggio e alla dismissione.
AISVS è modellato sull'OWASP Application Security Verification Standard (ASVS) e segue la stessa filosofia: ogni requisito deve essere verificabile, testabile e implementabile.
Questo progetto è stato fondato da Jim Manico. L'attuale leadership del progetto include Jim Manico, Otto Sulin, Rico Komenda e Russ Memisyazici.
| Standard | Focus | Relazione con AISVS |
|---|---|---|
| OWASP ASVS | Sicurezza delle applicazioni web | AISVS estende i concetti di ASVS alle minacce specifiche dell'IA |
| OWASP Top 10 for LLMs | Consapevolezza dei principali rischi degli LLM | AISVS fornisce i controlli dettagliati per mitigare tali rischi |
| OWASP Top 10 for Agentic Applications | Consapevolezza dei principali rischi dell'IA agentica | AISVS fornisce i controlli dettagliati per affrontare le minacce specifiche dell'IA agentica |
| NIST AI RMF | Governance del rischio IA | AISVS fornisce i controlli tecnici verificabili a cui fa riferimento AI RMF |
| ISO/IEC 42001 | Sistemi di gestione dell'IA | AISVS integra con la verifica della sicurezza a livello di implementazione |
L'ultima versione stabile è AISVS 1.01, disponibile qui:
| Formato | Link |
|---|---|
| AISVS 1.01 PDF | |
| Markdown (sorgente) | Sfoglia online |
AISVS 1.02 è l'unica release in sviluppo attivo. I contributi sono destinati a 1.02-dev. La versione 2.0 è rinviata e 2.0-dev/ è stata rimossa. Nuovi capitoli e sezioni possono essere aggiunti nella 1.02 preservando la numerazione e l'organizzazione dei requisiti esistenti. Consulta la politica di rilascio per le regole complete.
A ogni requisito AISVS è assegnato un livello di verifica (1, 2 o 3) che indica la profondità dell'assicurazione di sicurezza:
| Livello | Descrizione | Quando utilizzarlo |
|---|---|---|
| 1 | Controlli di base essenziali che ogni sistema di IA dovrebbe implementare. | Tutte le applicazioni di IA, inclusi strumenti interni e sistemi a basso rischio. |
| 2 | Controlli standard per sistemi che gestiscono dati sensibili o prendono decisioni con conseguenze rilevanti. | Sistemi in produzione, IA rivolta ai clienti, sistemi che trattano dati personali. |
| 3 | Controlli avanzati per ambienti ad alta affidabilità che richiedono difese contro attacchi sofisticati. | Infrastrutture critiche, IA per la sicurezza critica, obiettivi di alto valore, settori regolamentati. |
Le organizzazioni dovrebbero selezionare un livello obiettivo in base al profilo di rischio del proprio sistema di IA. La maggior parte dei sistemi in produzione dovrebbe puntare almeno al Livello 2.