एलएलएम प्रदाताओं के लिए शून्य डेटा प्रतिधारण (ZDR)

अंतिम अद्यतन: अप्रैल 2026

एलएलएम एपीआई का उपयोग करते समय आपके डेटा को निजी रखने के लिए एक व्यावहारिक मार्गदर्शिका। इसमें शून्य-प्रतिधारण एंडपॉइंट्स, स्व-होस्टिंग, अनुपालन आवश्यकताएं, और विनियमित उद्योगों में इंजीनियरों के लिए डेटा सुरक्षा पैटर्न शामिल हैं।

---

विषयसूची

• मेरे लिए कौन सा दृष्टिकोण सही है?
• थ्रेट मॉडल
• प्रदाता संदर्भ
  • OpenAI
  • Anthropic
  • Google Vertex AI
  • Azure OpenAI
  • AWS Bedrock
  • Mistral AI
  • Groq
  • Fireworks AI
  • Together AI
  • Cohere
  • Hugging Face Inference Endpoints
  • Replicate
• गेटवे और राउटर
• चीनी और अंतर्राष्ट्रीय प्रदाता
• ओपन-वेट मॉडल्स की स्व-होस्टिंग
• वैश्विक तुलना तालिका
• अनुपालन मानचित्रण
• ZDR से परे डेटा सुरक्षा
• सत्यापन और ऑडिट गाइड
• आर्किटेक्चर ब्लूप्रिंट
• योगदान

---

मेरे लिए कौन सा दृष्टिकोण सही है?

"Zero-retention" एक एकल सुविधा नहीं है — यह तकनीकी नियंत्रण + अनुबंध शर्तों का एक बंडल है जो यह सुनिश्चित करता है कि ग्राहक सामग्री (प्रॉम्प्ट, आउटपुट, फ़ाइलें) विक्रेता द्वारा स्थिर रूप में संग्रहीत नहीं की जाती है। विभिन्न दृष्टिकोण अलग-अलग व्यापार-बंद प्रदान करते हैं:```mermaid flowchart TD Start(["Need Private AI?"]) --> Q1{"Can you\nself-host?"}

Q1 -->|"Yes, have GPUs"| SH["Self-Host Open Weights\n(Llama 4 · DeepSeek · Mistral · Qwen)"]
Q1 -->|"Yes, CPU only"| OL["Ollama + Quantized Models\n(7B–14B on consumer hardware)"]
Q1 -->|No| Q2{"Need frontier\nmodel quality?"}

Q2 -->|Yes| Q3{"Regulatory\nrequirements?"}
Q2 -->|No| Q4{"Budget\nconstrained?"}

Q3 -->|"HIPAA / FedRAMP"| Cloud["Azure OpenAI · AWS Bedrock\n+ Private Endpoints + BAA"]
Q3 -->|"Multi-provider"| GW["OpenRouter · Cloudflare AI Gateway\nwith ZDR routing"]
Q3 -->|"Single provider OK"| Direct["Direct ZDR Contract\n(OpenAI · Anthropic · Google)"]

Q4 -->|Yes| Budget["Fireworks · Together AI\n(open-weights, low cost, ZDR included)"]
Q4 -->|"Not really"| Fast["Groq · Fireworks · Together\nZDR toggle in dashboard"]

style Start fill:#4a90d9,stroke:#2c5f8a,color:#fff
style SH fill:#2ecc71,stroke:#1a9c54,color:#fff
style OL fill:#2ecc71,stroke:#1a9c54,color:#fff
style Cloud fill:#e67e22,stroke:#b3611a,color:#fff
style GW fill:#9b59b6,stroke:#7a3d92,color:#fff
style Direct fill:#3498db,stroke:#2471a3,color:#fff
style Budget fill:#1abc9c,stroke:#148f77,color:#fff
style Fast fill:#1abc9c,stroke:#148f77,color:#fff

### तुलना विधि

| तरीका | गोपनीयता शक्ति | मॉडल गुणवत्ता | परिचालन लागत | सेटअप जटिलता |
| :--- | :--- | :--- | :--- | :--- |
| **स्व-होस्टेड (एयर-गैप्ड)** | सबसे मजबूत | केवल ओपन-वेट | हार्डवेयर + संचालन | उच्च |
| **स्व-होस्टेड (VPC)** | बहुत मजबूत | केवल ओपन-वेट | क्लाउड GPU लागत | मध्यम |
| **क्लाउड ZDR + प्राइवेट लिंक** | मजबूत (संविदात्मक) | फ्रंटियर मॉडल | API मूल्य निर्धारण | निम्न-मध्यम |
| **SaaS ZDR API** | अच्छा (संविदात्मक) | फ्रंटियर मॉडल | API मूल्य निर्धारण | निम्न |
| **ZDR रूटिंग के साथ गेटवे** | अच्छा (प्रतिनिधित) | बहु-प्रदाता | API + गेटवे शुल्क | निम्न |

---

## खतरा मॉडल

किसी तरीके को चुनने से पहले, समझें कि आप किससे बचाव कर रहे हैं:

| खतरा | विवरण | कम किया गया |
| :--- | :--- | :--- |
| **प्रशिक्षण डेटा लीक** | आपके प्रॉम्प्ट/आउटपुट प्रदाता के मॉडल को प्रशिक्षित करने के लिए उपयोग किए जाते हैं | ZDR अनुबंध, API स्तर (फ्री-स्तर नहीं), स्व-होस्टिंग |
| **दुरुपयोग निगरानी प्रतिधारण** | प्रदाता सुरक्षा समीक्षा के लिए प्रॉम्प्ट संग्रहीत करता है (अक्सर 30 दिन) | ZDR/MAM ऑप्ट-आउट, स्व-होस्टिंग |
| **कर्मचारी पहुंच** | प्रदाता कर्मचारी घटना प्रतिक्रिया के दौरान आपका डेटा देख सकते हैं | ZDR + BYOK एन्क्रिप्शन, स्व-होस्टिंग |
| **सम्मन / कानूनी खोज** | आपके डेटा के लिए सरकारी या कानूनी अनुरोध प्रदाता को | स्व-होस्टिंग, डेटा रेजीडेंसी नियंत्रण, कोई-प्रतिधारण अनुबंध |
| **प्रदाता पर उल्लंघन** | प्रदाता के सिस्टम से समझौता, आपका डेटा चुराया गया | कोई प्रतिधारण (चुराने के लिए कुछ नहीं), स्व-होस्टिंग, आराम पर एन्क्रिप्शन |
| **आपकी अपनी लॉगिंग** | आपका बुनियादी ढांचा (प्रॉक्सी, APM, एरर ट्रैकर) संवेदनशील प्रॉम्प्ट लॉग करता है | DLP प्रॉक्सी, लॉग रिडक्शन, अपनी पाइपलाइन का ऑडिट करें |
| **प्रॉम्प्ट इंजेक्शन एक्सफिल्ट्रेशन** | दुर्भावनापूर्ण इनपुट LLM को टूल कॉल के माध्यम से डेटा लीक करने का कारण बनता है | आउटपुट स्कैनिंग, न्यूनतम-विशेषाधिकार उपकरण, सैंडबॉक्सिंग |

### डेटा जीवनचक्र: आपके प्रॉम्प्ट कहाँ जाते हैं```mermaid
flowchart LR
    User["User Input"] --> App["Your App"]

    subgraph YourInfra["Your Infrastructure"]
        App --> Logs1["App Logs ⚠️"]
        App --> DLP["DLP / PII Proxy"]
        DLP --> GW["API Gateway"]
        GW --> Logs2["Gateway Logs ⚠️"]
    end

    subgraph Provider["LLM Provider"]
        GW --> Inference["Model Inference\n(in-memory)"]
        Inference --> Abuse["Abuse Monitor\n(0–30 day retention)"]
        Inference --> Training["Model Training\n(opt-out or ZDR)"]
    end

    Inference --> Response["Response"]
    Response --> App

    style Logs1 fill:#e74c3c,stroke:#c0392b,color:#fff
    style Logs2 fill:#e74c3c,stroke:#c0392b,color:#fff
    style Abuse fill:#f39c12,stroke:#d68910,color:#fff
    style Training fill:#e74c3c,stroke:#c0392b,color:#fff
    style DLP fill:#2ecc71,stroke:#1a9c54,color:#fff
    style Inference fill:#3498db,stroke:#2471a3,color:#fff

लाल = वे जोखिम बिंदु जहाँ डेटा बनाए रखा जा सकता है। हरा = सुरक्षा परत। ZDR प्रदाता-पक्ष के जोखिमों को समाप्त करता है; DLP/प्रॉक्सी आपके-पक्ष के जोखिमों को समाप्त करता है।

---

प्रदाता संदर्भ

OpenAI

आधिकारिक दस्तावेज़: डेटा नियंत्रण

• नियंत्रण नाम: शून्य डेटा प्रतिधारण (ZDR) / संशोधित दुरुपयोग निगरानी (MAM)
• डिफ़ॉल्ट प्रतिधारण: प्रॉम्प्ट दुरुपयोग निगरानी के लिए 30 दिनों तक संग्रहीत होते हैं
• ZDR कैसे सक्षम करें: एंटरप्राइज़ बिक्री अनुमोदन आवश्यक → डैशबोर्ड: सेटिंग्स → संगठन → डेटा प्रतिधारण → संगठन या प्रोजेक्ट स्तर पर कॉन्फ़िगर करें
• ZDR व्यवहार: store पैरामीटर को हमेशा false माना जाता है, भले ही अनुरोधों में true सेट किया गया हो
• MAM विकल्प: ग्राहक सामग्री को दुरुपयोग निगरानी लॉग से बाहर करता है लेकिन store पैरामीटर को कार्यात्मक रखता है — उन संगठनों के लिए जिन्हें डेटा प्रतिधारण लेकिन कम निगरानी की आवश्यकता है

ZDR-पात्र एंडपॉइंट: /v1/chat/completions, /v1/responses, /v1/images/*, /v1/embeddings, /v1/audio/*, /v1/moderations, /v1/completions, /v1/realtime

ZDR-पात्र नहीं: Assistants API (/v1/assistants, /v1/threads, /v1/vector_stores), Conversations API, Files, Fine-tuning, Batches, Evals, Background mode (/v1/responses with background: true), Hosted containers (Code Interpreter)