OWASP Artificial Intelligence Security Verification Standard (AISVS)

Quest'opera è distribuita con licenza Creative Commons Attribution-ShareAlike 4.0 International.

Cos'è AISVS?

Lo Artificial Intelligence Security Verification Standard (AISVS) è un catalogo guidato dalla community di requisiti di sicurezza verificabili per i sistemi basati sull'IA. Offre a sviluppatori, architetti, ingegneri della sicurezza e revisori un framework strutturato per progettare, costruire, testare e verificare la sicurezza delle applicazioni di IA durante l'intero ciclo di vita, dalla raccolta dei dati e l'addestramento dei modelli fino al deployment, al monitoraggio e al ritiro.

AISVS è modellato sull'OWASP Application Security Verification Standard (ASVS) e segue la stessa filosofia: ogni requisito dovrebbe essere verificabile, testabile e implementabile.

Leader del progetto

Questo progetto è stato fondato da Jim Manico. L'attuale leadership del progetto include Jim Manico, Otto Sulin, Rico Komenda e Russ Memisyazici.

Cosa AISVS NON è

• Non è un framework di governance. La governance è ben coperta da NIST AI RMF, ISO/IEC 42001 e dalle guide di conformità all'EU AI Act.
• Non è un framework di gestione del rischio. AISVS fornisce i controlli tecnici a cui i framework di rischio fanno riferimento, ma non definisce una metodologia di valutazione del rischio.
• Non è un elenco di strumenti consigliati. AISVS è neutrale rispetto ai fornitori e non approva prodotti o framework specifici.

Come AISVS integra altri standard

Ultima versione stabile

L'ultima versione stabile è AISVS 1.0, disponibile qui:

Livelli di verifica

Ogni requisito AISVS è associato a un livello di verifica (1, 2 o 3) che indica la profondità della garanzia di sicurezza:

Le organizzazioni dovrebbero selezionare un livello target in base al profilo di rischio del proprio sistema di IA. La maggior parte dei sistemi in produzione dovrebbe puntare almeno al Livello 2.

Come usare AISVS

• Durante la progettazione. Usa i requisiti come checklist di sicurezza quando architetti sistemi di IA.
• Durante lo sviluppo. Integra i requisiti nelle pipeline CI/CD, nelle revisioni del codice e nei test.
• Durante le valutazioni di sicurezza. Usalo come framework di verifica per penetration test e audit.
• Per gli acquisti. Fai riferimento a requisiti specifici quando valuti fornitori di IA e modelli di terze parti.

Capitoli dei requisiti

1. Integrità e tracciabilità dei dati di addestramento
2. Validazione degli input
3. Gestione del ciclo di vita del modello e controllo delle modifiche
4. Sicurezza di infrastruttura, configurazione e deployment
5. Controllo degli accessi e identità per componenti e utenti IA
6. Sicurezza della supply chain per i modelli
7. Comportamento del modello, controllo dell'output e garanzia di sicurezza
8. Sicurezza di memoria, embedding e database vettoriali
9. Sicurezza dell'orchestrazione e degli agenti
10. Sicurezza del Model Context Protocol (MCP)
11. Robustezza avversaria
12. Monitoraggio, logging e rilevamento delle anomalie

Appendici

• Appendice A: Glossario
• Appendice B: Inventario dei controlli di sicurezza IA
• Appendice C: Codifica sicura assistita dall'IA

Wiki di ricerca

Per ogni requisito dello standard, la Wiki di ricerca fornisce un contesto di implementazione che va oltre il testo del requisito:

La wiki copre tutti i 191 requisiti in 60 pagine, con sintesi del panorama delle minacce per ogni sezione, raccomandazioni sugli strumenti e riferimenti agli standard attuali e alla letteratura di ricerca.

Come fare riferimento ai requisiti AISVS

Ogni requisito ha un identificatore nel formato C<chapter>.<section>.<requirement>, in cui ogni elemento è un numero, ad esempio C9.4.3.

• Il valore C<chapter> corrisponde al capitolo da cui proviene il requisito; ad esempio, tutti i requisiti C9.#.# provengono dal capitolo 'Sicurezza dell'orchestrazione e degli agenti'.
• Il valore <section> corrisponde alla sezione del capitolo in cui appare il requisito; ad esempio, tutti i requisiti C9.4.# si trovano nella sezione 'Identità di agente e orchestratore'.
• Il valore <requirement> identifica il requisito specifico all'interno del capitolo e della sezione; ad esempio, C9.4.3, che nella versione 1.0 di questo standard è:

Verificare che le credenziali di identità dell'agente ruotino secondo una pianificazione definita.

Poiché gli identificatori possono cambiare tra le versioni dello standard, è preferibile che altri documenti, report o strumenti utilizzino il formato seguente: v<version>-C<chapter>.<section>.<requirement>, dove version è il tag di versione AISVS. Ad esempio: v1.0-C9.4.3.

Nota: la v che precede il numero di versione deve essere sempre minuscola.

Se gli identificatori vengono utilizzati senza includere l'elemento v<version>, si deve presumere che facciano riferimento ai contenuti AISVS più recenti. Con la crescita e l'evoluzione dello standard, questo diventa problematico, motivo per cui autori o sviluppatori dovrebbero includere l'elemento della versione.

Versionamento

AISVS utilizza un numero di versione in due parti, v<MAJOR>.<MINOR> (ad esempio, v1.0, v1.01, v2.0). Le versioni major coprono modifiche a capitoli e sezioni, le versioni minor coprono aggiunte, rimozioni e modifiche sostanziali ai requisiti all'interno della struttura esistente, mentre le correzioni di patch vengono distribuite nel branch senza una versione separata. La politica completa è documentata in RELEASE.md.

Ogni release stabile di AISVS viene pubblicata come cartella numerata in questo repository. Una volta pubblicata una versione, la sua cartella viene bloccata; tutto il lavoro futuro avviene in una nuova cartella. Questo rispecchia l'approccio utilizzato da OWASP ASVS.

/
├── 1.0/        <- published stable release (locked)
├── 1.01-dev/   <- next minor release (in progress)

Come contribuire

Accogliamo con piacere i contributi della community. Apri una segnalazione per segnalare bug o suggerire miglioramenti. Potremmo chiederti di inviare una pull request in base alla discussione.

Per segnalare un problema di sicurezza relativo al progetto AISVS stesso, segui la Security Policy.

Licenza

L'intero contenuto del progetto è sotto licenza Creative Commons Attribution-ShareAlike 4.0 International.