
वितरित-सिस्टम परीक्षण के लिए AI-एजेंट कौशल
AI कोडिंग एजेंटों के लिए दो कौशल जो वितरित और स्टेटफुल प्रणालियों के लिए दावा-संचालित परीक्षण डिज़ाइन करते हैं और चलाते हैं। साथ में वे एक संरचित Markdown परीक्षण योजना और एक निष्कर्ष रिपोर्ट तैयार करते हैं, जिसमें 10-अवस्था वाले निर्णय और स्पष्ट SUT / हार्नेस / चेकर / परिवेश दोष वर्गीकरण होता है। एक समीक्षक दोनों आर्टिफैक्ट पढ़ता है और तय करता है कि शिप करना है या नहीं; कुछ और पुनः चलाने की आवश्यकता नहीं है।
Claude Code, Codex, Copilot CLI, Cursor, Gemini, या किसी भी ऐसे एजेंट के साथ काम करता है जो Markdown पढ़ता है और shell चलाता है। ये कौशल साधारण SKILL.md फ़ाइलें हैं। एजेंट उन्हें निष्पादित करता है; योजना और निष्कर्ष रिपोर्ट ही आउटपुट हैं।
एक कौशल योजना डिज़ाइन करता है। दूसरा उसे चलाता है। एक योजना उत्पाद के दावों से शुरू होती है, उन दावों से जुड़ी परिकल्पनाएँ उत्पन्न करती है, और ऐसे परिदृश्य लिखती है जिनका नाम उस दावे के नाम पर होता है जिसे प्रत्येक परिदृश्य गलत सिद्ध करने का प्रयास करता है। संगति-महत्वपूर्ण परिदृश्यों के लिए, प्रत्येक परिदृश्य एक अमूर्त मॉडल (register | queue | log | lock | lease | ledger | …) को एक ऑपरेशन-हिस्ट्री स्कीमा, एक नामित चेकर, और प्रेक्षणीय लैंडिंग साक्ष्य वाले नेमेसिस से भी बाँधता है। योजना कवरेज पर्याप्तता तर्क और एक रूढ़िवादी विश्वास कथन के साथ समाप्त होती है।
वितरित और स्टेटफुल प्रणालियों के परीक्षण के लिए डिफ़ॉल्ट तरीका — कुछ इंटीग्रेशन टेस्ट लिखना और काम ख़त्म मान लेना — उन बगों का एक छोटा सा अंश पकड़ता है जो वास्तव में इन प्रणालियों को प्रोडक्शन में तोड़ देते हैं: आंशिक नेटवर्क विभाजन, गैर-नियतात्मक समवर्तीता, क्रैश-रिकवरी, अपग्रेड/रोलबैक, रीप्ले के अंतर्गत आइडेम्पोटेंसी, समय-संवेदनशील क्रमबद्धता।
ये कौशल एक विचार-आधारित वर्कफ़्लो लागू करते हैं जो क्षेत्र के कठिन-अर्जित ज्ञान से लिया गया है:
एंड-टू-एंड, दोनों कौशल यह उत्पन्न करते हैं:
docs/testing-plans/<slug>.md ← plan with §0–§9 (see below)
test-sessions/<slug>/<UTC>/
├── session-log.md ← timeline + toolbox + env probe
├── logs/ ← per-scenario stdout/stderr
├── metrics/ ← metric snapshots
├── artifacts/ ← ephemeral harnesses, dumps
└── findings/
├── <scenario>.md ← per-scenario verdict (written as run proceeds)
└── report.md ← summary + adequacy + confidence delta
योजना संरचना (एक समीक्षक इसे पढ़ सकता है और परीक्षणों को पुनः चलाए बिना शिप करने का निर्णय ले सकता है):
0. Architectural summary — system as it actually exists
1. Scope
1b. Claims under test — the spine
1c. Missing claims discovered — docs ↔ code drift
2. SUT model
3. Existing test inventory — what's already covered
4. Failure-mode hypotheses — tied to claim IDs
5. Coverage matrix — claim × hypothesis
6. Technique selection — from the catalog
6b. Environment requirements
7. Scenarios — each named after the claim, with
Target test file + Skeleton
7.M Model / history / — mandatory when the scenario falsifies
checker discipline a claim in {safety, durability,
idempotency, isolation, ordering,
membership}: model under test,
operation-history schema, named
checker, nemesis + landing evidence,
ambiguous-outcome handling, reduction
plan (SUT/harness/checker/env blame)
7b. Coverage adequacy argument — why these tests are enough
7c. Residual uncertainty — what stays unverified, and why ok
7d. Confidence statement — the reviewer's verdict
8. What this plan does NOT cover
9. Open questions / followups
### Scenario S3: linearizable_append_under_partition
- Falsifies if it FAILs: C1 (every acknowledged append is durable
and linearisable), C5 (leader election completes within 5s)
- Workload: 8 clients, 70% append / 30% read, 5min, key-skew zipf
- Faults: asymmetric partition isolating current leader at T+60s
for 30s
- Oracle: linearizability via Porcupine over per-key histories
§7.M (model / history / checker discipline)
- Model under test: log
- Operation history: default 11-field schema (op id, process id,
invoke/complete ts, op type, key, input,
output, error, timeout marker, node seen,
fault epoch). Recorded in-process + server-
side audit.
- Checker: linearizability (Porcupine) per-key, then
no-lost-ack against final state
- Nemesis + landing: asymmetric-partition (iptables drop one
direction). Landing evidence = iptables drop
counter goes 0 → 14,712 over the 30s window
AND raft log emits "leader-lost; starting
election" within 2s of injection.
- Ambiguous outcomes: timeouts → timeout_marker=true, complete_ts
=null, treated as could-have-succeeded;
retries are separate ops sharing input
- Reduction plan: if FAIL, bisect fault window + fix seed, then
classify SUT / harness / checker / environment
per references/test-case-reduction.md
| ID | निर्णय | नेमेसिस लैंडिंग साक्ष्य | न्यूनीकरण वर्ग |
|---|---|---|---|
| S3 | PASS-hardening | iptables ctr 0→14,712; raft re-election at T+1.8s | n/a |
| S4 | FAIL-reproducible | विभाजन स्थापित हुआ; Elle: key K17 पर G2-item विसंगति | SUT |
| S7 | INCONCLUSIVE-fault-not-proven | iptables नियम स्थापित हुआ लेकिन काउंटर 0 रहा — गलत चेन | harness |
| S9 | PARTIAL-model | लैंडिंग ठीक; चेकर ने per-key कवर किया, cross-key नहीं | n/a |
(पूर्ण निष्कर्ष टेम्पलेट में Oracle, Oracle निष्पादन साक्ष्य, आर्टिफैक्ट लिंक, पर्याप्तता-बनाम-योजना अनुभाग और विश्वास डेल्टा होता है — देखें skills/executing-distributed-system-tests/assets/findings-report-template.md।)
इसे किसी भी AI कोडिंग एजेंट (Claude Code, Codex, Copilot CLI, Cursor, Gemini, या कुछ और जो Markdown पढ़ता है और shell चलाता है) पर चिपकाएँ: