#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

LLM-basierte Karte für Forschung, Erkundung und Entdeckung.
Zero shot Schwachstellenentdeckung mithilfe von LLMs

Lerne Eclipse kennen – den einzigen Jailbreak, der einen Moonwalk um ChatGPT 4o macht.

Generativer, KI-basierter, auf Cybersicherheit fokussierter Prompt-Datensatz zum Benchmarking großer Sprachmodelle

Ein produktionsreifes Greedy-Coordinate-Gradient-Angriffstool (GCG) für große Sprachmodelle (LLMs)

Repository von KI-generierten Nuclei-Vorlagen für öffentliche CVEs, die noch nicht von vorhandenen Vorlagen abgedeckt sind, um die…

Technische Details und Exploit für CVE-2024-11394

Eine Sammlung von KI/ML-Exploits aus der realen Welt für verantwortungsvoll offengelegte Schwachstellen

Syntactic Ghost: Ein unmerklicher Allzweck-Backdoor-Angriff auf vortrainierte Sprachmodelle

Proof-of-Concept, der Prompt-Injection in Langchains GraphCypherQAChain demonstriert, was zu SQL-Injection in Neo4j-Datenbanken führt. Enthält…

Ein kleines Go-Harness, das Ollama nutzt, um LLMs in einem eingeschränkten Prozessablauf zu orchestrieren

Mehrschichtiger Prompt-Injection-Detektor für KI-Anwendungen mit Heuristiken, LLM-basierter Analyse, vectorDB-Angriffssignaturen und…

Kuratierte Liste von Backdoor-Learning-Papers, Übersichtsarbeiten und Toolboxen, die vergiftungsbasierte Angriffe und Verteidigungen im Deep Learning…

Der Code für ACM MM2024 (Multimodal Unlearnable Examples: Protecting Data against Multimodal Contrastive Learning)

Echtzeit-Deepfake-Toolkit für Penetrationstests von Identitätsüberprüfungs- und Videokonferenzsystemen. Unterstützt Gesichtstausch, Bildanimation und…

Proof of Concept für CVE-2024-24590

0dAPI Offizielle Dokumentation

Eine Burp Suite-Erweiterung, die OpenAIs GPT integriert, um einen zusätzlichen passiven Scan zur Erkennung hochgradig maßgeschneiderter…