#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Flow Integrity Deterministic Enforcement System. Mechanismen zur Sicherung von KI-Agenten mit Informationsflusskontrolle.
[ICLR 2026] - Offizielles Repository für das Paper: "RedBench: A Universal Dataset for Comprehensive Red Teaming of Large Language Models"

CVE-Factory

AGLS

Angriffs-Framework zum Durchbrechen von auf Feintuning basierenden Prompt-Injection-Abwehrmechanismen (SecAlign, SecAlign++, StruQ) mithilfe…

OpenAnt von Knostic ist das führende Open-Source-Produkt zur LLM-basierten Schwachstellenerkennung. Es hilft Verteidigern, proaktiv verifizierte…

Projekt Mantis: Den KI-Hacker zurückschlagen; Prompt-Injection als Verteidigung gegen LLM-gesteuerte Cyberangriffe

Inferenz-Skalierung für die Sicherheitsgewährleistung von LLMs

Ein neuartiger adversarischer Angriff auf LLM, basierend auf der Exponentiated Gradient Descent Technik.

Angreiferresistente Deep-Learning-Architektur für sichere 5G-Innenraumlokalisierung, die CNN und Multi-Head-Attention kombiniert, um sich gegen…

Forschungsdemonstration von indirekten Prompt-Injection-Angriffen zur Kontrolle autonomer LLM-basierter Web-Agenten, mit Werkzeugen zur…

Code für das Paper Certified Unlearning for Neural Networks, ICML 2025

Der Code für ACM MM2024 (Multimodal Unlearnable Examples: Protecting Data against Multimodal Contrastive Learning)

StealthRL: RL-Framework zum adversarialen Umschreiben von KI-Text, um die Robustheit von Detektoren zu testen.

[NeurIPS 2025] Ein offizieller Quellcode für das Papier "GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning".

[NeurIPS '25] Code für das Paper "IF-Guide: Influence Function-Guided Suppression of Harmful Training Data for Reducing LLM Toxicity"

Pre-install security for AI agents, npm packages, and MCP servers. Zero-dep local static analysis; normal scans never execute package code.

Offizielles Repository für CTFTiny