Estándar de Verificación de Seguridad de Inteligencia Artificial de OWASP (AISVS)

Este trabajo está bajo una Licencia Creative Commons Atribución-CompartirIgual 4.0 Internacional.

¿Qué es AISVS?

El Estándar de Verificación de Seguridad de Inteligencia Artificial (AISVS) es un catálogo impulsado por la comunidad de requisitos de seguridad comprobables para sistemas habilitados con IA. Proporciona a desarrolladores, arquitectos, ingenieros de seguridad y auditores un marco estructurado para diseñar, construir, probar y verificar la seguridad de las aplicaciones de IA a lo largo de su ciclo de vida, desde la recopilación de datos y el entrenamiento de modelos hasta el despliegue, el monitoreo y el retiro.

AISVS está modelado según el Estándar de Verificación de Seguridad de Aplicaciones de OWASP (ASVS) y sigue la misma filosofía: cada requisito debe ser verificable, comprobable e implementable.

Líderes del Proyecto

Este proyecto fue fundado por Jim Manico. El liderazgo actual del proyecto incluye a Jim Manico, Otto Sulin, Rico Komenda y Russ Memisyazici.

Lo que AISVS NO es

• No es un marco de gobernanza. La gobernanza está bien cubierta por NIST AI RMF, ISO/IEC 42001 y las guías de cumplimiento de la Ley de IA de la UE.
• No es un marco de gestión de riesgos. AISVS proporciona los controles técnicos a los que apuntan los marcos de riesgo, pero no define una metodología de evaluación de riesgos.
• No es una lista de recomendaciones de herramientas. AISVS es neutral respecto a los proveedores y no respalda productos o marcos específicos.

Cómo complementa AISVS otros estándares

Última Versión Estable

La última versión estable es AISVS 1.0, que se puede encontrar en:

Niveles de Verificación

A cada requisito de AISVS se le asigna un nivel de verificación (1, 2 o 3) que indica la profundidad de la garantía de seguridad:

Las organizaciones deben seleccionar un nivel objetivo basándose en el perfil de riesgo de su sistema de IA. La mayoría de los sistemas de producción deberían aspirar al menos al Nivel 2.

Cómo usar AISVS

• Durante el diseño. Utilice los requisitos como una lista de verificación de seguridad al diseñar la arquitectura de sistemas de IA.
• Durante el desarrollo. Integre los requisitos en los pipelines de CI/CD, las revisiones de código y las pruebas.
• Durante las evaluaciones de seguridad. Úselo como marco de verificación para pruebas de penetración y auditorías.
• Para adquisiciones. Consulte requisitos específicos al evaluar proveedores de IA y modelos de terceros.

Capítulos de Requisitos

1. Integridad y Trazabilidad de los Datos de Entrenamiento
2. Validación de Entradas
3. Gestión del Ciclo de Vida del Modelo y Control de Cambios
4. Seguridad de Infraestructura, Configuración y Despliegue
5. Control de Acceso e Identidad para Componentes y Usuarios de IA
6. Seguridad de la Cadena de Suministro para Modelos
7. Comportamiento del Modelo, Control de Salidas y Garantía de Seguridad
8. Seguridad de Memoria, Embeddings y Bases de Datos Vectoriales
9. Seguridad de Orquestación y Sistemas Agénticos
10. Seguridad del Protocolo de Contexto de Modelo (MCP)
11. Robustez Adversarial
12. Monitoreo, Registro y Detección de Anomalías

Apéndices

• Apéndice A: Glosario
• Apéndice B: Inventario de Controles de Seguridad de IA
• Apéndice C: Codificación Segura Asistida por IA

Wiki de Investigación

Para cada requisito del estándar, la Wiki de Investigación proporciona contexto de implementación más allá del texto del requisito:

La wiki cubre los 191 requisitos en 60 páginas, con resúmenes del panorama de amenazas por sección, recomendaciones de herramientas y referencias a estándares actuales y literatura de investigación.

Cómo Hacer Referencia a los Requisitos de AISVS

Cada requisito tiene un identificador con el formato C<chapter>.<section>.<requirement>, donde cada elemento es un número, por ejemplo C9.4.3.

• El valor C<chapter> corresponde al capítulo del que proviene el requisito; por ejemplo, todos los requisitos C9.#.# pertenecen al capítulo 'Seguridad de Orquestación y Sistemas Agénticos'.
• El valor <section> corresponde a la sección dentro de ese capítulo donde aparece el requisito; por ejemplo, todos los requisitos C9.4.# se encuentran en la sección 'Identidad del Agente y del Orquestador'.
• El valor <requirement> identifica el requisito específico dentro del capítulo y la sección; por ejemplo, C9.4.3, que a partir de la versión 1.0 de este estándar es:

Verifique que las credenciales de identidad de los agentes se rotan según un calendario definido.

Dado que los identificadores pueden cambiar entre versiones del estándar, es preferible que otros documentos, informes o herramientas utilicen el siguiente formato: v<version>-C<chapter>.<section>.<requirement>, donde version es la etiqueta de versión de AISVS. Por ejemplo: v1.0-C9.4.3.

Nota: La v que precede al número de versión siempre debe estar en minúsculas.

Si se utilizan identificadores sin incluir el elemento v<version>, se debe asumir que se refieren al contenido más reciente de AISVS. A medida que el estándar crece y cambia, esto se vuelve problemático, por lo que los redactores o desarrolladores deberían incluir el elemento de versión.

Versionado

AISVS utiliza un número de versión de dos partes, v<MAJOR>.<MINOR> (por ejemplo, v1.0, v1.01, v2.0). Las versiones principales cubren cambios de capítulos y secciones; las versiones menores cubren adiciones, eliminaciones y ediciones sustanciales de los requisitos dentro de la estructura existente; y las correcciones de parches se publican en la rama sin una versión separada. La política completa está documentada en RELEASE.md.

Cada versión estable de AISVS se publica como una carpeta numerada en este repositorio. Una vez publicada una versión, su carpeta queda bloqueada; todo el trabajo futuro se realiza en una carpeta nueva. Esto refleja el enfoque utilizado por OWASP ASVS.

/
├── 1.0/        <- published stable release (locked)
├── 1.01-dev/   <- next minor release (in progress)

Contribuciones

Agradecemos las contribuciones de la comunidad. Por favor, abra un issue para reportar errores o sugerir mejoras. Es posible que le pidamos que envíe un pull request en función de la discusión.

Para reportar un problema de seguridad con el propio proyecto AISVS, siga la Política de Seguridad.

Licencia

Todo el contenido del proyecto está bajo la licencia Creative Commons Atribución-CompartirIgual 4.0 Internacional.