Skip to content
KitploitKITPLOIT
उपकरणब्लॉग
जमा करें
उपकरणब्लॉग
जमा करें

हैकिंग, पेनटेस्ट और साइबर सुरक्षा उपकरण आपके सुरक्षा शस्त्रागार के लिए!

Kitploit हैकिंग, साइबर सुरक्षा और पेंटेस्टिंग टूल्स की एक निर्देशिका है। कमजोरियों को खोजने, सिस्टम का विश्लेषण करने, परीक्षण को स्वचालित करने और अपनी सुरक्षा को मजबूत करने के लिए नवीनतम प्रोजेक्ट अपडेट खोजें।

··फ़ीड·संपर्क·गोपनीयता·© 2026 Kitploit

टूल निर्देशिका

श्रेणियाँ

सभी श्रेणियाँ देखें
Loading categories
उपकरण/GitHubGitHub/giskard-ai/giskard-oss
भेद्यता स्कैनरफज़िंगमशीन लर्निंगरेड टीमिंगAI सुरक्षाप्रतिकूल हमलाप्रतिकूल हमला में शीर्ष #11AI सुरक्षा में शीर्ष #6मशीन लर्निंग में शीर्ष #10
5.8k536505 दिन पहलेKitploit द्वारा समीक्षित
GitHub
giskard-ai/giskard-oss

giskard-oss

🐢 LLM एजेंटों के लिए ओपन-सोर्स मूल्यांकन एवं परीक्षण लाइब्रेरी

रिपॉजिटरी देखेंवेबसाइट

सबसे लोकप्रिय

सभी देखें →

हमारे समुदाय द्वारा सबसे अधिक उपयोग किए जाने वाले उपकरण खोजें।

सभी उपकरण खोजें

हमारे उपकरणों का संग्रह ब्राउज़ करें

सभी उपकरण देखें →
साझा करें

giskardlogo giskardlogo

एजेंटिक सिस्टम के लिए Evals, Red Teaming और टेस्ट जनरेशन

मॉड्यूलर, हल्का, डायनामिक और Async-प्रथम

GitHub release License Downloads CI

Giskard on Discord

दस्तावेज़ • वेबसाइट • समुदाय


[!IMPORTANT] Giskard v3 AI एजेंटों के डायनामिक, मल्टी-टर्न परीक्षण के लिए डिज़ाइन किया गया एक नया रीराइट है। यह रिलीज़ बेहतर दक्षता के लिए भारी निर्भरताओं को हटाती है, साथ ही एक अधिक शक्तिशाली AI भेद्यता स्कैनर और उन्नत RAG मूल्यांकन पेश करती है — दोनों अब giskard-scan में मूल रूप से शामिल हैं, जिनकी v2 पर कोई निर्भरता नहीं है। केवल tabular/ML मॉडल के लिए लीगेसी स्कैन v2-केवल बना हुआ है। Giskard v2 उपलब्ध है लेकिन अब सक्रिय रूप से अनुरक्षित नहीं है। प्रगति का अनुसरण करें → v3 घोषणा पढ़ें · रोडमैप

इंस्टॉल करें

root@kitploit:~
pip install giskard           # checks (+ agents, llm, core)
pip install "giskard[scan]"   # + vulnerability / quality scan
pip install "giskard[openai]" # provider SDK for LLM judges / generators

Python 3.12+ की आवश्यकता है।

Extraजोड़ता है
(कोई नहीं)giskard-checks और निर्भरताएँ
scangiskard-scan
openai / anthropic / …provider SDKs (देखें pyproject.toml वैकल्पिक निर्भरताएँ)

टेलीमेट्री: giskard-core के माध्यम से वैकल्पिक समग्र विश्लेषण। कोई प्रॉम्प्ट या आउटपुट नहीं भेजे जाते। Giskard आयात करने से पहले ऑप्ट-आउट करें: export DO_NOT_TRACK=1 या export GISKARD_TELEMETRY_DISABLED=1। विवरण: giskard-core README।


Giskard एक ओपन-सोर्स Python लाइब्रेरी है जो एजेंटिक सिस्टम के परीक्षण और मूल्यांकन के लिए है। v3 आर्किटेक्चर केंद्रित पैकेजों का एक मॉड्यूलर सेट है — प्रत्येक केवल उन निर्भरताओं को ले जाता है जिनकी उसे आवश्यकता होती है — जो किसी भी चीज़ को लपेटने के लिए शुरू से बनाया गया है: एक LLM, एक ब्लैक-बॉक्स एजेंट, या एक मल्टी-स्टेप पाइपलाइन।

स्थितिपैकेजविवरण
✅ स्थिरgiskard-checksपरीक्षण और मूल्यांकन — परिदृश्य API, अंतर्निहित जाँचें, LLM-as-judge
✅ स्थिरgiskard-scanएजेंट भेद्यता स्कैनर + RAG/गुणवत्ता मूल्यांकन — red teaming, प्रॉम्प्ट इंजेक्शन, jailbreaks और हानिकारक सामग्री (vulnerability_scan, v2 Scan का उत्तराधिकारी), साथ ही ज्ञान-आधार गुणवत्ता मूल्यांकन (quality_scan, v2 RAGET का उत्तराधिकारी)

ये तीन मूलभूत लाइब्रेरियों पर निर्मित हैं — giskard-core (साझा उपयोगिताएँ और टेलीमेट्री), giskard-llm (provider-agnostic LLM रूटिंग), और giskard-agents (एजेंट और वर्कफ़्लो ऑर्केस्ट्रेशन) — जो स्वचालित रूप से खींची जाती हैं और शायद ही कभी सीधे उपयोग की जाती हैं।

Giskard Checks — एजेंटों के परीक्षण के लिए evals बनाएँ और लागू करें

root@kitploit:~
pip install giskard-checks

Giskard Checks एक हल्की लाइब्रेरी है जो LLM-आधारित सिस्टम का परीक्षण करने वाले मूल्यांकन (evals) बनाने के लिए है — सरल assertions से लेकर LLM-as-judge आकलन तक। पारंपरिक यूनिट टेस्ट के विपरीत, evals गैर-नियतात्मक आउटपुट के लिए डिज़ाइन किए गए हैं जहाँ समान इनपुट अलग-अलग मान्य प्रतिक्रियाएँ उत्पन्न कर सकता है।

Giskard Checks का उपयोग करें:

  • प्रतिगमन पकड़ें — सत्यापित करें कि आपका सिस्टम परिवर्तनों के बाद भी सही ढंग से व्यवहार करता है
  • RAG गुणवत्ता मान्य करें — जाँचें कि क्या उत्तर पुनर्प्राप्त संदर्भ में आधारित हैं
  • सुरक्षा नियम लागू करें — सुनिश्चित करें कि आउटपुट आपकी सामग्री नीतियों के अनुरूप हैं
  • मल्टी-टर्न एजेंटों का मूल्यांकन करें — केवल एकल आदान-प्रदान नहीं, बल्कि पूर्ण वार्तालाप का परीक्षण करें

अंतर्निहित evals में स्ट्रिंग मिलान, तुलना, regex, शब्दार्थ समानता, और LLM-as-judge जाँचें (Groundedness, Conformity, LLMJudge) शामिल हैं।

अवधारणाएँ

  • Target — परीक्षण के अधीन आपका सिस्टम: कोई भी sync/async callable (inputs) -> outputs (वैकल्पिक रूप से trace के साथ)
  • Scenario — एक eval: इंटरैक्शन + जाँचें
  • Check — ट्रेस पर assertion या LLM जज
  • Suite — कई परिदृश्य एक साथ चलाए जाते हैं

giskard.agents.Generator वर्कफ़्लो/जजों के लिए एक LLM क्लाइंट है — यह giskard.checks इनपुट जनरेटर (LLMGenerator) के समान नहीं है जो उपयोगकर्ता संदेशों को संश्लेषित करते हैं।

त्वरित प्रारंभ

root@kitploit:~
import asyncio
from giskard.checks import Scenario, Groundedness


def get_answer(inputs: str) -> str:
    return "Paris"  # replace with your model / agent


async def main() -> None:
    scenario = (
        Scenario("test_france_capital")
        .interact(inputs="What is the capital of France?", outputs=get_answer)
        .check(
            Groundedness(
                name="answer is grounded",
                context="France is in Western Europe. Its capital is Paris.",
            )
        )
    )
    result = await scenario.run()
    result.print_report()


asyncio.run(main())

Groundedness एक LLM जज है — एक provider extra इंस्टॉल करें (जैसे pip install "giskard[openai]") और संबंधित API कुंजी सेट करें। डिफ़ॉल्ट मॉडल: openai/gpt-4o-mini।

Suites, LLMJudge, मल्टी-टर्न परिदृश्यों और अधिक के लिए पूर्ण दस्तावेज़ देखें।


Giskard Scan — AI एजेंटों के लिए भेद्यता स्कैनर

root@kitploit:~
pip install "giskard[scan]"   # या: pip install giskard-scan

Giskard Scan एजेंटिक सिस्टम के लिए red-teaming और भेद्यता स्कैनिंग परत है। यह आपके एजेंट के सादे-भाषा विवरण से स्वचालित रूप से प्रतिकूल परीक्षण सुइट उत्पन्न करता है, जिसमें प्रॉम्प्ट इंजेक्शन, हानिकारक सामग्री, रूढ़ियाँ, गलत सूचना और बहुत कुछ शामिल है।

Giskard Scan का उपयोग करें:

  • अपने एजेंट का red-team करें — OWASP LLM Top-10 खतरे श्रेणियों में स्वचालित रूप से प्रतिकूल इनपुट उत्पन्न करें
  • प्रॉम्प्ट-इंजेक्शन जाँच चलाएँ — उपयोग के लिए तैयार इंजेक्शन पेलोड का अंतर्निहित डेटासेट
  • कस्टम जनरेटर के साथ विस्तार करें — generate_suite में अपने स्वयं के ScenarioGenerator इंस्टेंस पास करें, या उन्हें vulnerability_suite_generator_registry पर पंजीकृत करें

त्वरित प्रारंभ

root@kitploit:~
import asyncio
from giskard.scan import vulnerability_scan


async def my_agent(inputs: str) -> str:
    # Replace with your agent / model call
    return f"Echo: {inputs}"


async def main() -> None:
    await vulnerability_scan(
        target=my_agent,
        description="A customer support chatbot for an e-commerce platform.",
        languages=["en"],
    )


asyncio.run(main())

स्कैन जनरेटर को भी एक LLM provider extra और API कुंजी की आवश्यकता होती है (ऊपर Checks जजों के समान)।

Giskard v2 खोज रहे हैं?

Giskard v2 में Scan (स्वचालित भेद्यता पहचान) और RAGET (RAG मूल्यांकन परीक्षण सेट जनरेशन) शामिल थे।

LLM एजेंटों के लिए, दोनों v3 में giskard-scan द्वारा प्रतिस्थापित हैं: v2 LLM स्कैन के स्थान पर vulnerability_scan का उपयोग करें, और RAGET के स्थान पर quality_scan (साथ में KnowledgeBase) का उपयोग करें।

v3 ML मॉडल के साथ भी काम करता है — एक को target के रूप में लपेटें और giskard-checks या giskard-scan के साथ इसका मूल्यांकन करें। नीचे के उदाहरण जो कवर करते हैं वह v2-केवल स्वचालित tabular स्कैन है — डिटेक्टर सुइट जो प्रदर्शन, पूर्वाग्रह और मजबूती के मुद्दों का स्वतः पता लगाने के लिए giskard.Model + giskard.Dataset का निरीक्षण करता है — साथ ही giskard.testing ML परीक्षण सुइट और Giskard Hub। इनकी v3 के लिए योजना नहीं है।

root@kitploit:~
pip install "giskard[llm]>2,<3"

Scan — प्रदर्शन, पूर्वाग्रह और सुरक्षा मुद्दों का स्वचालित रूप से पता लगाएँ

अपने मॉडल को लपेटें और स्कैन चलाएँ:

root@kitploit:~
import giskard
import pandas as pd


# Replace my_llm_chain with your actual LLM chain or model inference logic
def model_predict(df: pd.DataFrame):
    """The function takes a DataFrame and must return a list of outputs (one per row)."""
    return [my_llm_chain.run({"query": question}) for question in df["question"]]


giskard_model = giskard.Model(
    model=model_predict,
    model_type="text_generation",
    name="My LLM Application",
    description="A question answering assistant",
    feature_names=["question"],
)

scan_results = giskard.scan(giskard_model)
display(scan_results)

Scan Example

RAGET — RAG अनुप्रयोगों के लिए मूल्यांकन डेटासेट उत्पन्न करें

अपने ज्ञान आधार से स्वचालित रूप से प्रश्न, संदर्भ उत्तर और संदर्भ उत्पन्न करें:

root@kitploit:~
import pandas as pd
from giskard.rag import generate_testset, KnowledgeBase

# Load your knowledge base documents
df = pd.read_csv("path/to/your/knowledge_base.csv")
knowledge_base = KnowledgeBase.from_pandas(df, columns=["column_1", "column_2"])

testset = generate_testset(
    knowledge_base,
    num_questions=60,
    language="en",
    agent_description="A customer support chatbot for company X",
)

RAGET Example

पूर्ण v2 दस्तावेज़

👋 समुदाय

हम AI समुदाय से योगदान का स्वागत करते हैं! आरंभ करने के लिए यह मार्गदर्शिका पढ़ें, और Discord पर हमारे संपन्न समुदाय से जुड़ें।

प्रगति का अनुसरण करें और प्रतिक्रिया साझा करें: v3 घोषणा · रोडमैप

🌟 हमें एक स्टार दें, यह परियोजना को दूसरों द्वारा खोजे जाने में मदद करता है और हमें शानदार ओपन-सोर्स टूल बनाने के लिए प्रेरित रखता है! 🌟

❤️ यदि आपको हमारा काम उपयोगी लगता है, तो कृपया GitHub पर हमें प्रायोजित करने पर विचार करें। मासिक प्रायोजन के साथ, आप एक प्रायोजक बैज प्राप्त कर सकते हैं, इस readme में अपनी कंपनी प्रदर्शित कर सकते हैं, और अपनी बग रिपोर्ट को प्राथमिकता दिला सकते हैं। यदि आप चाहते हैं कि हम किसी परामर्श परियोजना में शामिल हों, एक कार्यशाला चलाएँ, या आपकी कंपनी में एक व्याख्यान दें, तो हम एकमुश्त प्रायोजन भी प्रदान करते हैं।

टूल डाउनलोड करें