Skip to content
KitploitKITPLOIT
HerramientasExploitsBlog
Log in
Enviar
HerramientasExploitsBlog
Enviar

¡Herramientas de Hacking, PenTest y Ciberseguridad para tu Arsenal de Seguridad!

Kitploit es un directorio de herramientas de hacking, ciberseguridad y pentesting. Descubre las últimas actualizaciones de proyectos para encontrar vulnerabilidades, analizar sistemas, automatizar pruebas y fortalecer tu seguridad.

FeedsContactoPrivacidad© 2026 Kitploit

Directorio de Herramientas

Categorías

Ver todas las categorías
Loading categories
OWASP-Model-Card-Security-Standard — Estándar abierto para documentar metadatos relevantes para la seguridad de los modelos de IA, incluida la procedencia de los datos de entrenamiento, el riesgo de PII, las vulnerabilidades conocidas y los detalles de la cadena de suministro. | Kitploit
Herramientas/GitHubGitHub/owasp/owasp-model-card-security-standard
Análisis de VulnerabilidadesPrivacidadSeguridad de Cadena de SuministroAprendizaje AutomáticoPapers e InvestigaciónAprendizaje y EducaciónRecursos CuradosSeguridad de IA
GitHub
owasp/owasp-model-card-security-standard

OWASP-Model-Card-Security-Standard

Estándar abierto para documentar metadatos relevantes para la seguridad de los modelos de IA, incluida la procedencia de los datos de entrenamiento, el riesgo de PII, las vulnerabilidades conocidas y los detalles de la cadena de suministro.

Ver Repositorio
1157hace 3 mesesAún no revisado
Compartir

<<<<<<< HEAD

Estándar de Seguridad para Tarjetas de Modelo de OWASP

Estado: Borrador — Proyecto de OWASP en incubación
Este estándar está en desarrollo activo. Las contribuciones y los comentarios son muy bienvenidos.


¿Qué es esto?

Cuando descargas un modelo preentrenado de HuggingFace o de cualquier otro repositorio, estás confiando esencialmente en una caja negra. No sabes con qué datos fue entrenado, si esos datos contenían información personal, cómo ha sido probado frente a ataques adversarios, ni cuáles son sus modos de fallo conocidos. Para la mayoría de los proyectos de hobby, eso está bien. Para cualquier cosa que afecte a usuarios reales, industrias reguladas o datos sensibles — en realidad no lo está.

Las tarjetas de modelo llevan ya un tiempo entre nosotros, y son una buena idea. Pero los formatos existentes se centran casi por completo en métricas de rendimiento y consideraciones de equidad. La seguridad es en gran medida algo secundario, si es que se tiene en cuenta.

Este proyecto intenta arreglar eso. Estamos construyendo un estándar abierto que define qué información relevante para la seguridad debería contener una tarjeta de modelo — cosas como la procedencia de los datos de entrenamiento, el riesgo de exposición de PII, vulnerabilidades conocidas, detalles de la cadena de suministro y el estado de cumplimiento normativo. Algo que un equipo de seguridad pueda usar de verdad al evaluar si un modelo es seguro de desplegar.


¿Por qué es importante esto ahora?

Algunas cosas han convergido a la vez:

  • La Ley de IA de la UE está creando obligaciones reales de cumplimiento en torno a la transparencia y la documentación de la IA.
  • El RGPD y leyes similares plantean preguntas legítimas sobre si los datos personales terminaron en los conjuntos de entrenamiento y qué se hizo al respecto.
  • La comunidad de seguridad es cada vez más consciente de que los propios modelos son una superficie de ataque — inyección de prompts, envenenamiento de datos, robo de modelos — pero los estándares de documentación no han seguido el ritmo.
  • Las organizaciones están desplegando modelos de terceros a escala con muy poca visibilidad sobre lo que realmente están ejecutando.

Un estándar de tarjetas de modelo centrado en la seguridad ofrece a desarrolladores, auditores y equipos de compras un lenguaje común y una lista de verificación sobre la que pueden actuar de verdad.


Un ejemplo rápido

Aquí tienes una muestra de cómo se ve una tarjeta de modelo centrada en la seguridad según este estándar:

model_card_version: "0.1"
model_name: "example-text-classifier"
model_version: "1.2.0"

training_data:
  sources:
    - name: "Common Crawl (filtered)"
      pii_assessment: "Presidio scan applied; residual risk: low"
      license: "CC0"
  pii_removal_method: "Microsoft Presidio + manual review on 5% sample"
  data_cutoff_date: "2024-01-01"

security:
  known_vulnerabilities: []
  adversarial_testing: "Red-teamed against prompt injection; results in /security/redteam-report.md"
  supply_chain:
    base_model: "bert-base-uncased"
    base_model_source: "https://huggingface.co/bert-base-uncased"

compliance:
  eu_ai_act_risk_tier: "Limited"
  gdpr_considerations: "No personal data retained post-training"

Este es un extracto simplificado. El esquema completo incluye campos adicionales para historial de incidentes, filtrado de salidas, restricciones de despliegue y más.


Contenido de este repositorio

/
├── README.md                          ← you are here
├── standard/
│   └── OWASP-Modelcard-Standard-Proposal.md   ← the specification
├── templates/
│   └── model-card-template.md            ← blank template to copy and fill in
├── examples/
│   └── llm-example.md                    ← worked example for a large language model
├── schema/
│   └── model-card-schema.json            ← machine-readable JSON schema
├── mappings/
│   └── owasp-nist-euaiact-mapping.md     ← how this standard relates to other frameworks
├── CONTRIBUTING.md                    ← how to get involved
├── CHANGELOG.md
└── LICENSE                            ← CC BY 4.0

Cómo se relaciona esto con otros estándares y marcos

Este estándar está diseñado para complementar, no reemplazar, el trabajo existente:

FrameworkRelationship
OWASP Top 10 for LLM ApplicationsEste estándar ayuda a documentar mitigaciones para varios riesgos del Top 10 de LLM
OWASP AI ExchangeAlineado con la guía de seguridad de IA; con referencias cruzadas cuando proceda
NIST AI Risk Management FrameworkLos campos estándar se corresponden con las funciones govern, map, measure y manage del AI RMF
EU AI ActCubre las obligaciones de transparencia y documentación para sistemas de IA de riesgo limitado y alto riesgo
HuggingFace Model CardsExtiende el formato de HuggingFace con campos específicos de seguridad
Google Model CardsCompatible con el enfoque de Google; añade una capa de seguridad adicional

Cómo participar

Este es un proyecto en fase inicial y hay mucho margen para darle forma. Algunas formas de contribuir:

  • Revisa el borrador del estándar y abre issues si faltan campos, si son incorrectos o no están claros.
  • Comparte ejemplos de tarjetas de modelo de tu propio trabajo (anónimos está bien) para que podamos poner a prueba el esquema con casos reales.
  • Únete a la discusión en OWASP Slack en #ai-ml-security.
  • Envía un pull request — consulta CONTRIBUTING.md para obtener orientación.

Si no sabes por dónde empezar, los issues abiertos etiquetados como good first issue son un buen lugar para mirar.


Estado del proyecto

Este proyecto está pasando actualmente por el proceso de nuevos proyectos de OWASP. Una vez aceptado, se trasladará a la organización de OWASP en GitHub en github.com/OWASP/owasp-model-card-security-standard.


Licencia

Este estándar se publica bajo Creative Commons Attribution 4.0 International (CC BY 4.0). Eres libre de usarlo, adaptarlo y redistribuirlo — incluso con fines comerciales — siempre que des el crédito apropiado.

Las herramientas incluidas en este repositorio están licenciadas bajo Apache 2.0.

OWASP-Model-Card-Security-Standard

owasp/main

Descargar herramienta

Más Populares

Ver todos →

Descubre las herramientas más usadas por nuestra comunidad.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 El kit de herramientas OSINT definitivo: grafo de investigación, puntuación de confianza, familias de alias, mapa, línea de tiempo e informes. 49 módulos, más de 400 sitios, sin necesidad de claves API.

    837
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # Aplicación de Ejecución con un Solo Toque GhostLock (CVE-2026-43499)

    536
  • 3

    ARTEX

    baarai/artex

    Plataforma de pruebas de penetración autónoma multiagente basada en LLM con agentes planificadores/trabajadores, grafos de activos y de exploración, registro de tráfico MITM y reevaluación de vulnerabilidades.

    424
  • 4

    redforge

    cybersecurity91/redforge

    Kit de herramientas de red team del lado del navegador con 102 herramientas offline para reconocimiento, generación de payloads, ataques de credenciales, criptografía, codificación y elaboración de informes de compromiso.

    355
  • 5

    looking-glass

    anonghosty/looking-glass

    Plataforma CSIRT que ingiere informes de Shadowserver en MongoDB y los reproduce como mapas interactivos, análisis, hallazgos, avisos y paneles ejecutivos.

    294
  • 6

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    El sistema de acción para la ciberseguridad nativa de IA—donde la intención se convierte en ejecución gobernada, la evidencia se convierte en memoria operativa y cada operación mejora la siguiente.

    276

Explora todas las herramientas

Explora nuestra colección de herramientas

Ver todas las herramientas →