#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Ein produktionsreifes Greedy-Coordinate-Gradient-Angriffstool (GCG) für große Sprachmodelle (LLMs)
Repository von KI-generierten Nuclei-Vorlagen für öffentliche CVEs, die noch nicht von vorhandenen Vorlagen abgedeckt sind, um die…

Technische Details und Exploit für CVE-2024-11394

Eine Sammlung von KI/ML-Exploits aus der realen Welt für verantwortungsvoll offengelegte Schwachstellen

Syntactic Ghost: Ein unmerklicher Allzweck-Backdoor-Angriff auf vortrainierte Sprachmodelle

Proof-of-Concept, der Prompt-Injection in Langchains GraphCypherQAChain demonstriert, was zu SQL-Injection in Neo4j-Datenbanken führt. Enthält…

Ein kleines Go-Harness, das Ollama nutzt, um LLMs in einem eingeschränkten Prozessablauf zu orchestrieren

Mehrschichtiger Prompt-Injection-Detektor für KI-Anwendungen mit Heuristiken, LLM-basierter Analyse, vectorDB-Angriffssignaturen und…

Kuratierte Liste von Backdoor-Learning-Papers, Übersichtsarbeiten und Toolboxen, die vergiftungsbasierte Angriffe und Verteidigungen im Deep Learning…

Der Code für ACM MM2024 (Multimodal Unlearnable Examples: Protecting Data against Multimodal Contrastive Learning)

Echtzeit-Deepfake-Toolkit für Penetrationstests von Identitätsüberprüfungs- und Videokonferenzsystemen. Unterstützt Gesichtstausch, Bildanimation und…

Proof of Concept für CVE-2024-24590

0dAPI Offizielle Dokumentation

Eine Burp Suite-Erweiterung, die OpenAIs GPT integriert, um einen zusätzlichen passiven Scan zur Erkennung hochgradig maßgeschneiderter…

Ein Tool, das prüft, ob eine TorchServe-Instanz anfällig für CVE-2023-43654 ist.

Finden Sie Subdomains mit GPT, kostenlos

Eine kuratierte Liste von GPT-Agenten für Cybersicherheit

Demo, die zeigt, dass Claude Opus CVE-2023-0266 nicht findet