#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Ein Repository zum Jailbreaken verschiedener LLMs, hauptsächlich Claude

Professioneller Schwachstellenbewertungsbericht für das Risiko einer Befehlsinjektion in LiteLLM, einschließlich Management-Zusammenfassung,…

Autonomer White-Hat-Sicherheitsauditor für KI-gestützte Code-Reviews, Bug-Bounty-Forschung, Exploit-Entwicklung und ausführungsbasierte Verifikation.

Open-Source-Sandbox-Agent-Harness für Teams. Jeder Mitarbeiter erhält einen gesicherten persönlichen Agenten.

Forschungs-Repository, das die Generalisierungsgrenzen von LLMs bei der Erkennung von Sicherheitslücken im Code dokumentiert, mit Kreuzauswertung…

Eine sichere* Laufzeitumgebung für autonome KI-Agenten. Richtlinien aus Verfassungen in einfachem Englisch. (*https://ironcurtain.dev)

Schwachstellenscanner für AWS kundenverwaltete Richtlinien mit ChatGPT

Repository von KI-generierten Nuclei-Vorlagen für öffentliche CVEs, die noch nicht von vorhandenen Vorlagen abgedeckt sind, um die…

Sicherheitsstandard für Agentenfähigkeiten, der Richtlinien und bewährte Verfahren zur Sicherung KI-gesteuerter autonomer Agenten in Cloud- und…

Absichtlich verwundbares maschinelles Lernmodell für praktisches Sicherheitstraining. Erkunden Sie gängige ML-Schwachstellen, adversariale Angriffe…

KI-gestützte Schwachstellen-Scanner-Erweiterung für Burp Suite mit Multi-Provider-Unterstützung (Ollama, OpenAI, Claude, Gemini)

Ein selbst gehosteter Sandkasten für Red Teams, um Payloads vor dem Einsatz gegen moderne Erkennung zu testen. MCP-Integration ermöglicht es einem…

DugganUSA-Beiträge zur Threat Intelligence für den IETF Hackathon: praxisnahe Benchmark-Vektoren für agentische Angriffe, Attestierungsanalyse zu…

Python-Scraper basierend auf KI

Ein doggo, das hilft, nach Sicherheitsproblemen in Ihren Repositorys zu suchen.


Zweistufiger Prompt-Injection- und Jailbreak-Detektor: Regex-Gates plus ein quantisierter DeBERTa-v3-ONNX-Klassifikator, mit Bild-, Dokument- und…

Zero shot Schwachstellenentdeckung mithilfe von LLMs