
Курируемое руководство по конфигурациям нулевого хранения данных для API LLM. Охватывает специфичные для провайдеров конечные точки ZDR, модели угроз, соответствие нормативным требованиям и паттерны самостоятельного хостинга для инженеров в регулируемых отраслях.
Последнее обновление: Апрель 2026 года
Практическое руководство по сохранению конфиденциальности ваших данных при использовании LLM API. Охватывает точки без сохранения данных, самостоятельное развертывание, требования соответствия и шаблоны защиты данных для инженеров в регулируемых отраслях.
«Нулевое удержание» не является одной функцией — это набор технических средств контроля + договорных условий, гарантирующих, что содержимое клиента (запросы, ответы, файлы) не хранится в состоянии покоя у поставщика. Разные подходы предлагают разные компромиссы:```mermaid flowchart TD Start(["Need Private AI?"]) --> Q1{"Can you\nself-host?"}
Q1 -->|"Yes, have GPUs"| SH["Self-Host Open Weights\n(Llama 4 · DeepSeek · Mistral · Qwen)"]
Q1 -->|"Yes, CPU only"| OL["Ollama + Quantized Models\n(7B–14B on consumer hardware)"]
Q1 -->|No| Q2{"Need frontier\nmodel quality?"}
Q2 -->|Yes| Q3{"Regulatory\nrequirements?"}
Q2 -->|No| Q4{"Budget\nconstrained?"}
Q3 -->|"HIPAA / FedRAMP"| Cloud["Azure OpenAI · AWS Bedrock\n+ Private Endpoints + BAA"]
Q3 -->|"Multi-provider"| GW["OpenRouter · Cloudflare AI Gateway\nwith ZDR routing"]
Q3 -->|"Single provider OK"| Direct["Direct ZDR Contract\n(OpenAI · Anthropic · Google)"]
Q4 -->|Yes| Budget["Fireworks · Together AI\n(open-weights, low cost, ZDR included)"]
Q4 -->|"Not really"| Fast["Groq · Fireworks · Together\nZDR toggle in dashboard"]
style Start fill:#4a90d9,stroke:#2c5f8a,color:#fff
style SH fill:#2ecc71,stroke:#1a9c54,color:#fff
style OL fill:#2ecc71,stroke:#1a9c54,color:#fff
style Cloud fill:#e67e22,stroke:#b3611a,color:#fff
style GW fill:#9b59b6,stroke:#7a3d92,color:#fff
style Direct fill:#3498db,stroke:#2471a3,color:#fff
style Budget fill:#1abc9c,stroke:#148f77,color:#fff
style Fast fill:#1abc9c,stroke:#148f77,color:#fff
### Сравнение подходов
| Подход | Конфиденциальность | Качество модели | Эксплуатационные расходы | Сложность настройки |
| :--- | :--- | :--- | :--- | :--- |
| **Самостоятельное размещение (изолированное от сети)** | Наивысшая | Только open-weight | Оборудование + эксплуатация | Высокая |
| **Самостоятельное размещение (VPC)** | Очень высокая | Только open-weight | Стоимость облачного GPU | Средняя |
| **Облачный ZDR + Private Link** | Высокая (контрактная) | Frontier models | Цены API | Низкая-средняя |
| **SaaS ZDR API** | Хорошая (контрактная) | Frontier models | Цены API | Низкая |
| **Шлюз с маршрутизацией ZDR** | Хорошая (делегированная) | Multi-provider | API + комиссия шлюза | Низкая |
---
## Модель угроз
Прежде чем выбирать подход, поймите, от чего вы защищаетесь:
| Угроза | Описание | Способы смягчения |
| :--- | :--- | :--- |
| **Утечка данных обучения** | Ваши запросы/ответы используются для обучения моделей провайдера | Контракт ZDR, уровень API (не бесплатный), самостоятельное размещение |
| **Хранение для мониторинга нарушений** | Провайдер хранит запросы для проверки безопасности (часто 30 дней) | Отказ от ZDR/MAM, самостоятельное размещение |
| **Доступ сотрудников** | Сотрудники провайдера могут просматривать ваши данные при реагировании на инциденты | ZDR + BYOK шифрование, самостоятельное размещение |
| **Судебный запрос / юридическое раскрытие** | Государственные или юридические запросы к провайдеру о ваших данных | Самостоятельное размещение, контроль размещения данных, контракт без хранения |
| **Взлом у провайдера** | Компрометация систем провайдера, утечка ваших данных | Отсутствие хранения (нечего красть), самостоятельное размещение, шифрование в покое |
| **Ваше собственное журналирование** | Ваша инфраструктура (прокси, APM, трекеры ошибок) логирует конфиденциальные запросы | DLP-прокси, редактирование логов, аудит конвейера |
| **Эксфильтрация через инъекцию промптов** | Вредоносный ввод заставляет LLM утечь данные через вызовы инструментов | Сканирование вывода, минимальные привилегии инструментов, изоляция |
### Жизненный цикл данных: куда попадают ваши запросы```mermaid
flowchart LR
User["User Input"] --> App["Your App"]
subgraph YourInfra["Your Infrastructure"]
App --> Logs1["App Logs ⚠️"]
App --> DLP["DLP / PII Proxy"]
DLP --> GW["API Gateway"]
GW --> Logs2["Gateway Logs ⚠️"]
end
subgraph Provider["LLM Provider"]
GW --> Inference["Model Inference\n(in-memory)"]
Inference --> Abuse["Abuse Monitor\n(0–30 day retention)"]
Inference --> Training["Model Training\n(opt-out or ZDR)"]
end
Inference --> Response["Response"]
Response --> App
style Logs1 fill:#e74c3c,stroke:#c0392b,color:#fff
style Logs2 fill:#e74c3c,stroke:#c0392b,color:#fff
style Abuse fill:#f39c12,stroke:#d68910,color:#fff
style Training fill:#e74c3c,stroke:#c0392b,color:#fff
style DLP fill:#2ecc71,stroke:#1a9c54,color:#fff
style Inference fill:#3498db,stroke:#2471a3,color:#fff
Красный = точки риска, где данные могут сохраняться. Зелёный = уровень защиты. ZDR устраняет риски со стороны провайдера; DLP/прокси устраняет риски с вашей стороны.
store всегда считается false, даже если в запросах установлено truestore функциональным — для организаций, которым нужно хранение данных, но с пониженным мониторингомZDR-совместимые конечные точки:
/v1/chat/completions, /v1/responses, /v1/images/*, /v1/embeddings, /v1/audio/*, /v1/moderations, /v1/completions, /v1/realtime
Не совместимые с ZDR:
API ассистентов (/v1/assistants, /v1/threads, /v1/vector_stores), API разговоров, Файлы, Тонкая настройка, Пакеты, Оценки, Фоновый режим (/v1/responses с background: true), Размещённые контейнеры (Code Interpreter)