最后更新: 2026年4月
一份关于在使用LLM API时保护数据隐私的实用指南。涵盖零保留端点、自托管、合规性要求以及面向受监管行业工程师的数据保护模式。
"零保留"并非单一功能——而是一套技术控制 + 合同条款的组合,确保客户内容(提示、输出、文件)不会被供应商静态存储。不同的方法提供不同的权衡:```mermaid flowchart TD Start(["Need Private AI?"]) --> Q1{"Can you\nself-host?"}
Q1 -->|"Yes, have GPUs"| SH["Self-Host Open Weights\n(Llama 4 · DeepSeek · Mistral · Qwen)"]
Q1 -->|"Yes, CPU only"| OL["Ollama + Quantized Models\n(7B–14B on consumer hardware)"]
Q1 -->|No| Q2{"Need frontier\nmodel quality?"}
Q2 -->|Yes| Q3{"Regulatory\nrequirements?"}
Q2 -->|No| Q4{"Budget\nconstrained?"}
Q3 -->|"HIPAA / FedRAMP"| Cloud["Azure OpenAI · AWS Bedrock\n+ Private Endpoints + BAA"]
Q3 -->|"Multi-provider"| GW["OpenRouter · Cloudflare AI Gateway\nwith ZDR routing"]
Q3 -->|"Single provider OK"| Direct["Direct ZDR Contract\n(OpenAI · Anthropic · Google)"]
Q4 -->|Yes| Budget["Fireworks · Together AI\n(open-weights, low cost, ZDR included)"]
Q4 -->|"Not really"| Fast["Groq · Fireworks · Together\nZDR toggle in dashboard"]
style Start fill:#4a90d9,stroke:#2c5f8a,color:#fff
style SH fill:#2ecc71,stroke:#1a9c54,color:#fff
style OL fill:#2ecc71,stroke:#1a9c54,color:#fff
style Cloud fill:#e67e22,stroke:#b3611a,color:#fff
style GW fill:#9b59b6,stroke:#7a3d92,color:#fff
style Direct fill:#3498db,stroke:#2471a3,color:#fff
style Budget fill:#1abc9c,stroke:#148f77,color:#fff
style Fast fill:#1abc9c,stroke:#148f77,color:#fff
### 方法比较
| 方法 | 隐私强度 | 模型质量 | 运营成本 | 部署复杂度 |
| :--- | :--- | :--- | :--- | :--- |
| **自托管(气隙隔离)** | 最强 | 仅开放权重 | 硬件+运维 | 高 |
| **自托管(VPC)** | 非常强 | 仅开放权重 | 云GPU成本 | 中 |
| **云ZDR + 私有链接** | 强(合同约束) | 前沿模型 | API定价 | 低-中 |
| **SaaS ZDR API** | 良好(合同约束) | 前沿模型 | API定价 | 低 |
| **带ZDR路由的网关** | 良好(委托) | 多供应商 | API+网关费用 | 低 |
---
## 威胁模型
在选择方法之前,了解您需要防范什么:
| 威胁 | 描述 | 缓解措施 |
| :--- | :--- | :--- |
| **训练数据泄露** | 您的提示/输出被用于训练提供商的模型 | ZDR合同、API层级(非免费层级)、自托管 |
| **滥用监控保留** | 提供商存储提示以进行安全审查(通常30天) | ZDR/MAM选择退出、自托管 |
| **员工访问** | 提供商员工在事件响应期间可以查看您的数据 | ZDR + BYOK加密、自托管 |
| **传票/法律发现** | 政府或法律要求提供商提供您的数据 | 自托管、数据驻留控制、无保留合同 |
| **提供商遭入侵** | 提供商系统被攻陷,您的数据被窃取 | 无保留(无数据可窃取)、自托管、静态加密 |
| **您自己的日志记录** | 您的基础设施(代理、APM、错误跟踪器)记录敏感提示 | DLP代理、日志编辑、审计您的管道 |
| **提示注入窃取** | 恶意输入导致LLM通过工具调用泄露数据 | 输出扫描、最小权限工具、沙箱 |
### 数据生命周期:您的提示去向```mermaid
flowchart LR
User["User Input"] --> App["Your App"]
subgraph YourInfra["Your Infrastructure"]
App --> Logs1["App Logs ⚠️"]
App --> DLP["DLP / PII Proxy"]
DLP --> GW["API Gateway"]
GW --> Logs2["Gateway Logs ⚠️"]
end
subgraph Provider["LLM Provider"]
GW --> Inference["Model Inference\n(in-memory)"]
Inference --> Abuse["Abuse Monitor\n(0–30 day retention)"]
Inference --> Training["Model Training\n(opt-out or ZDR)"]
end
Inference --> Response["Response"]
Response --> App
style Logs1 fill:#e74c3c,stroke:#c0392b,color:#fff
style Logs2 fill:#e74c3c,stroke:#c0392b,color:#fff
style Abuse fill:#f39c12,stroke:#d68910,color:#fff
style Training fill:#e74c3c,stroke:#c0392b,color:#fff
style DLP fill:#2ecc71,stroke:#1a9c54,color:#fff
style Inference fill:#3498db,stroke:#2471a3,color:#fff
红色 = 可保留数据的风险点。绿色 = 保护层。ZDR 消除提供商侧风险;DLP/代理消除您侧的风险。
store 参数始终被视为 false,即使请求中设置为 truestore 参数功能——适用于需要数据保留但减少监控的组织支持 ZDR 的端点:
/v1/chat/completions、/v1/responses、/v1/images/*、/v1/embeddings、/v1/audio/*、/v1/moderations、/v1/completions、/v1/realtime
不支持 ZDR 的端点:
Assistants API(/v1/assistants、/v1/threads、/v1/vector_stores)、Conversations API、Files、Fine-tuning、Batches、Evals、后台模式(/v1/responses 含 background: true)、托管容器(Code Interpreter)
其他控制措施:
eu.api.openai.com)、澳大利亚 (au.api.openai.com) —— 需签署 ZDR 修正案,成本上浮 10%curl https://api.openai.com/v1/chat/completions
-H "Authorization: Bearer $OPENAI_API_KEY"
-H "Content-Type: application/json"
-d '{
"model": "gpt-4o",
"store": false,
"messages": [{"role": "user", "content": "Hello"}]
}'
---
### Anthropic
> [官方文档:隐私中心](https://privacy.claude.com/en/articles/8956058-i-have-a-zero-data-retention-agreement-with-anthropic-what-products-does-it-apply-to) · [数据保留](https://privacy.claude.com/en/articles/7996866-how-long-do-you-store-my-organization-s-data)
- **控制项名称**:零数据保留(ZDR)协议
- **默认保留期限**:API 输入/输出保留 **7 天**(自 2025 年 9 月起从 30 天缩短),之后自动删除。**绝不用于模型训练**——固定政策,无需选择退出
- **如何启用 ZDR**:通过企业销售签署合同附录。需 Anthropic 批准
- **ZDR 涵盖范围**:符合条件的 Anthropic API + 使用您商业组织 API 密钥的产品(包括 Claude Code)
- **ZDR 不涵盖范围**:Claude Free、Pro、Max 个人消费方案;个人消费版 Claude Code 账户
**注意事项:**
- 用户安全分类器结果即使在 ZDR 下也会保留(用于使用政策执行)
- 数据可能存储在需要遵守法律或打击滥用的地点
- HIPAA(BAA)客户存在功能限制(例如,网页搜索排除)
- **BYOK**(自带密钥)加密功能已宣布将于 2026 年上半年推出```python
import anthropic
client = anthropic.Anthropic() # Uses ANTHROPIC_API_KEY env var
# ZDR is org-level. No special per-request parameter needed.
# If your org has ZDR enabled, all API calls are covered.
message = client.messages.create(
model="claude-sonnet-4-20250514",
max_tokens=1024,
messages=[{"role": "user", "content": "Hello"}]
)
重要区别:
cloud.google.com)= 企业级数据治理。通过 AI Studio 的免费 Gemini API = 不同的条款私有网络:```bash
gcloud access-context-manager perimeters create vertex-perimeter
--title="Vertex AI Perimeter"
--resources="projects/"
--restricted-services="aiplatform.googleapis.com"
gcloud compute networks subnets update
--region=
--enable-private-ip-google-access
---
### Azure OpenAI