Skip to content
KitploitKITPLOIT
工具博客
提交
工具博客
提交

黑客、渗透测试和网络安全工具,武装您的安全武器库!

Kitploit 是一个黑客、网络安全和渗透测试工具的目录。发现最新的项目更新,查找漏洞、分析系统、自动化测试并加强你的安全。

··订阅源·联系·隐私·© 2026 Kitploit

工具目录

分类

查看所有分类
Loading categories
GuardModel — 扫描 ML 模型文件中的恶意代码和安全漏洞的 GitHub Action | Kitploit
工具/GitHubGitHub/shivang0/guardmodel
静态分析漏洞扫描器代码分析恶意软件分析DevSecOps秘密检测供应链安全AI 安全
GitHubshivang0/guardmodel

GuardModel

扫描 ML 模型文件中的恶意代码和安全漏洞的 GitHub Action

查看仓库
28个月前尚未审核

最受欢迎

查看全部 →

发现我们社区最常用的工具。

探索所有工具

浏览我们的工具集合

查看所有工具 →
分享

GuardModel

阻止恶意 AI 模型进入你的流水线,只需一行 YAML。

GuardModel 是一个 GitHub Action,可在 CI/CD 流水线中自动扫描 ML 模型文件,检查恶意代码、漏洞和安全风险。它能通过检测 pickle 反序列化攻击、嵌入恶意软件和已知 CVE,在危险模型进入生产环境之前将其阻断。

快速开始

添加到你的工作流:

root@kitploit:~
name: GuardModel Security Scan
on: [push, pull_request]

jobs:
  scan:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4
      - uses: guardmodel/scan@v1

就这样!GuardModel 将扫描所有模型文件,并在检测到威胁时使检查失败。

特性

  • 自动检测 - 在推送/PR 时扫描所有模型文件
  • 多格式支持 - 支持 pickle、PyTorch、Keras、ONNX、SafeTensors
  • 70+ 检测规则 - 代码执行、反弹 Shell、文件系统访问、网络活动
  • GitHub 集成 - 用于 Security 选项卡的 SARIF 输出、PR 评论、JSON 报告
  • 可配置 - 白名单、严重性阈值、自定义规则

支持的格式

扩展名格式扫描器风险级别
.pkl, .picklePython PicklePickle 代理严重
.pt, .pthPyTorchPickle 代理严重
.binPyTorch/TransformersPickle 代理严重
.h5, .hdf5HDF5/KerasKeras 代理高
.kerasKeras v3Keras 代理高
.onnxONNXONNX 代理中
.safetensorsSafeTensorsSafeTensors 代理低

配置

在你的仓库中创建 .guardmodel.yml:

root@kitploit:~
version: 1

# Directories to scan
include:
  - models/
  - weights/

# Directories to ignore
exclude:
  - tests/fixtures/

# Severity threshold to fail CI
fail_on: high  # critical, high, medium, low, none

# Allowlist known-safe models by SHA256
allowlist:
  - sha256: "abc123..."
    reason: "Verified by security team"

# Maximum file sizes
max_file_size: 5GB
max_total_size: 20GB

Action 输入

Action 输出

威胁检测

GuardModel 可检测:

  • 代码执行 - os.system、subprocess、eval、exec
  • 反弹 Shell - 带 Shell 执行的 Socket 连接
  • 网络活动 - HTTP 请求、下载、数据外泄
  • 文件系统 - 文件删除、权限变更
  • 危险导入 - ctypes、动态导入
  • 混淆 - Base64、marshal、嵌套 pickle
  • 已知恶意软件 - 哈希与签名匹配
  • CVE 漏洞 - 已知安全问题

示例输出

PR 评论

GuardModel 安全扫描

状态: 失败 - 检测到 2 个威胁

SARIF 集成

发现结果会显示在 GitHub Security 选项卡中,包含:

  • 规则描述
  • 文件位置
  • 修复指导

开发

root@kitploit:~
# Install dependencies
npm install
pip install -r requirements.txt

# Build
npm run build

# Test
npm test
pytest tests/

# Package for release
npm run package

架构

root@kitploit:~
guardmodel/
├── action.yml              # GitHub Action definition
├── src/                    # TypeScript source
│   ├── index.ts           # Entry point
│   ├── orchestrator.ts    # Scan coordination
│   ├── config.ts          # Configuration
│   ├── walker.ts          # File discovery
│   └── reporters/         # Output formatters
├── python/
│   ├── agents/            # Scanner agents
│   │   ├── pickle_agent.py
│   │   ├── keras_agent.py
│   │   ├── onnx_agent.py
│   │   └── safetensors_agent.py
│   └── rules/             # Detection rules
└── tests/                 # Test suite

安全性

GuardModel:

  • 本地扫描 - 不上传任何文件到外部服务器
  • 未经同意不收集遥测数据
  • 在隔离的 GitHub runner 环境中运行
  • 依赖通过哈希校验锁定

许可证

MIT

贡献

欢迎贡献!请参阅 CONTRIBUTING.md。

链接

  • 文档
  • 规则参考
  • GitHub Marketplace
下载工具
输入描述默认值
path要扫描的目录.
config配置文件路径.guardmodel.yml
fail-on触发失败的最低严重性high
output-sarif生成 SARIF 输出true
output-json生成 JSON 输出true
comment-on-pr发布 PR 评论true
max-file-size最大文件大小5GB
输出描述
status扫描状态(passed、failed、error)
findings-count总发现数
critical-count严重级别发现数
high-count高级别发现数
sarif-fileSARIF 输出路径
json-fileJSON 输出路径
scan-duration持续时间(毫秒)
文件严重性威胁详情
models/model.pkl严重CODE_EXECUTION检测到 os.system 调用
models/utils.pt高NETWORK创建 socket.socket