
Eine kuratierte Liste von KI-Sicherheitsmaterialien und -ressourcen für Pentester, Bug Hunter und Sicherheitsforscher.
# `awesome-ai-security`[](https://awesome.re) [](https://github.com/gmh5225/awesome-ai-security/blob/main/LICENSE) Eine kuratierte Liste von KI-Sicherheitsmaterialien und -ressourcen für Pentester, Bug Hunter und Sicherheitsforscher. ``` If you find that some links are not working, you can simply replace the username with gmh5225. Or you can send an issue for me. ``` > Zollen Sie allen unten aufgeführten Projekten Respekt, perfekte Kunstwerke :saluting_face: ## Wie kann man beitragen? - https://github.com/HyunCafe/contribute-practice - https://docs.github.com/en/get-started/quickstart/contributing-to-projects ## Skills für KI-Agenten Dieses Repository bietet Skills, die mit KI-Agenten und Coding-Assistenten wie [Cursor](https://www.cursor.com/), [OpenClaw](https://docs.openclaw.ai/), [Claude Code](https://docs.anthropic.com/en/docs/claude-code), [Codex CLI](https://github.com/openai/codex) und anderen kompatiblen Tools verwendet werden können. Installieren Sie Skills, um spezialisiertes Wissen zu Themen der Spielesicherheit zu erhalten. - https://github.com/vercel-labs/skills [The open agent skills tool - npx skills] **[Auf learn-skills.dev ansehen](https://learn-skills.dev/skills/gmh5225/awesome-ai-security)** **Installation:** ```bash npx skills add https://github.com/gmh5225/awesome-ai-security --skill <skill-name> ``` **Verfügbare Skills:** | Skill | Beschreibung | |-------|-------------| | `adversarial-machine-learning` | Adversarial Machine Learning: adversarische Beispiele, Datenvergiftung, Modell-Backdoors und Evasionsangriffe | | `ai-powered-pentesting` | KI-gestützte Penetration-Testing-Tools, Red-Teaming-Frameworks und autonome Sicherheitsagenten | | `llm-attacks-security` | LLM-Sicherheitsangriffe: Prompt-Injection, Jailbreaking und Datenextraktion | | `awesome-ai-security-overview` | Überblick über dieses Repository und Beitragsrichtlinien | | `ai-security-tooling` | KI-Sicherheits-Tooling: Detektoren, Analyzer, Guardrails und Benchmarks | **Beispiel:** ```bash # Install LLM attacks skill npx skills add https://github.com/gmh5225/awesome-ai-security --skill llm-attacks-security # Install multiple skills npx skills add https://github.com/gmh5225/awesome-ai-security --skill adversarial-machine-learning npx skills add https://github.com/gmh5225/awesome-ai-security --skill ai-powered-pentesting ``` ## KI-Sicherheits-Starterpaket - **CTFs / Übung** - https://github.com/verialabs/ctf-agent [ctf-agent - autonomer CTFd-Solver: Koordinator-LLM + parallele Modell-Schwärme in Docker; BSidesSF 2026 1. Platz] - https://aivillage.org/ [AI Village @ DEF CON - LLM-Jailbreak-Herausforderungen] - https://doublespeak.chat/#/handbook [Doublespeak - KI-Sicherheitsherausforderungen] - https://github.com/EasyJailbreak/EasyJailbreak [Framework für adversarische Jailbreak-Prompts] - https://github.com/microsoft/AI-Red-Teaming-Playground-Labs [Microsoft AI Red Teaming Playground Labs] - https://github.com/schwartz1375/genai-security-training [GenAI-Red-Teaming-Schulung] - **Blogs / Ressourcen** - https://genai.owasp.org/ [OWASP GenAI Security Project] - https://llm-stats.com [LLM-Rangliste] - https://www.aidaily.win [KI-Tagesnachrichten] - https://baoyu.io/blog/how-to-write-good-prompt [Wie man gute Prompts schreibt] - https://rootissh.in/ [LLM-Pentesting-Serie (Blog)] - https://github.com/Abdowaer098/Wa3r-OffSec-Kit [Wa3r OffSec Kit - Offensive-Security-Wissensbasis mit praktischen Workflows, Payload-Mustern, Fallstudien und Forensik-Notizen] - **Newsletter / Sammlungen** - https://mlsecops.com/podcast [MLSecOps-Podcast] - https://podcasts.apple.com/ph/podcast/the-genai-security-podcast/id1782916580 [GenAI Security Podcast] - https://avidml.org/ [KI-Schwachstellendatenbank (AVID)] - https://calder-brief.pages.dev/ai-hub.html [Calder Brief KI-News-Hub — täglich aktualisierte KI-Nachrichten, einschließlich Berichterstattung zu KI-Sicherheit/Safety] - **Zertifizierungen / Kurse** - https://cs229.stanford.edu/ [Stanford CS229: Maschinelles Lernen] - https://course.fast.ai/ [fast.ai Practical Deep Learning] - https://www.coursera.org/specializations/deep-learning [Deep-Learning-Spezialisierung von Andrew Ng] - https://huggingface.co/reasoning-course [Reasoning-Modell im Stil von DeepSeek-R1 erstellen] ## KI/LLM-Leitfaden - **Grundlagen** - https://d2l.ai/ [Dive into Deep Learning - Interaktives Buch mit PyTorch/JAX/TensorFlow] - http://neuralnetworksanddeeplearning.com/ [Neural Networks and Deep Learning von Michael Nielsen] - https://www.deeplearningbook.org/ [Deep Learning von Goodfellow, Bengio, Courville] - https://github.com/karminski/one-small-step [KI/LLM-Tutorial] - https://github.com/datawhalechina/happy-llm [Tutorial zu LLM-Prinzipien und -Praxis] - https://github.com/rasbt/LLMs-from-scratch [LLM von Grund auf erstellen] - https://github.com/naklecha/llama3-from-scratch [LLaMA3 von Grund auf] - https://github.com/ZJU-LLMs/Foundations-of-LLMs [Grundlagen von LLMs] - **Awesome-Listen** - https://github.com/WangRongsheng/awesome-LLM-resourses [Umfassende LLM-Ressourcen] - https://github.com/mahseema/awesome-ai-tools [Awesome KI-Tools] - https://github.com/Shubhamsaboo/awesome-llm-apps [Awesome LLM-Apps] - https://github.com/mahonzhan/awesome-agent-harness [Kuratierte Liste von Agent-Harnesses, Agent-Frameworks, Workflow-Frameworks und aufkommenden Agent-Protokollen] - https://github.com/punkpeye/awesome-mcp-servers [Awesome MCP-Server] - https://github.com/wong2/awesome-mcp-servers [Awesome MCP-Server] - https://github.com/deepseek-ai/awesome-deepseek-integration [Awesome DeepSeek-Integration] - https://github.com/lmmlzn/Awesome-LLMs-Datasets [Awesome LLM-Datensätze] - **From-Scratch-LLMs / Reasoning** - https://github.com/rasbt/LLMs-from-scratch/tree/main/ch05/11_qwen3 [Qwen3 From Scratch - chinesische Schritt-für-Schritt-Anleitung] - https://github.com/rasbt/LLMs-from-scratch/blob/main/ch05/11_qwen3/standalone-qwen3-moe-plus-kvcache.ipynb [Qwen3 MoE mit KV-Cache von Grund auf implementieren] - https://github.com/rasbt/LLMs-from-scratch/tree/main/ch05/12_gemma3 [Gemma 3 270M von Grund auf erstellen] - https://github.com/rasbt/reasoning-from-scratch [Reasoning-Modelle von Grund auf] - https://github.com/mingyin0312/RLFromScratch [Reinforcement Learning von Grund auf (chinesisches Tutorial)] - https://github.com/karpathy/nanochat [End-to-End-nanochat-Trainingsschleife in ~8K Zeilen] - https://github.com/kyegomez/OpenMythos [OpenMythos - theoretische Rekonstruktion der Claude-Mythos-Architektur aus erster Prinzipien auf Basis öffentlicher Forschungsliteratur] - https://github.com/vixhal-baraiya/microgpt-c [MicroGPT-C — Training und Inferenz eines winzigen GPT in reinem, abhängigkeitsfreiem C (einzelne Datei); fp32/AVX2-artiger CPU-Pfad; MIT] ## KI-Sicherheit & Angriffe ### Prompt Injection - https://www.lakera.ai/blog/guide-to-prompt-injection [Prompt-Injection-Leitfaden] - https://genai.owasp.org/llmrisk/llm01-prompt-injection/ [OWASP LLM01:2025 Prompt Injection] - https://redbotsecurity.com/prompt-injection-attacks-ai-security-2025/ [Prompt-Injection-Angriffe 2025] - https://github.com/protectai/rebuff [Selbsthärtender Prompt-Injection-Detektor] - https://github.com/NVIDIA/garak [NVIDIA LLM-Schwachstellenscanner] - https://github.com/deadbits/vigil-llm [Erkennt Prompt Injections und riskante Eingaben] - https://github.com/alphasecio/prompt-guard [Prompt-Verteidigung für LLMs] - https://github.com/tml-epfl/llm-adaptive-attacks [Adaptive Angriffe auf LLMs] - https://github.com/RomiconEZ/llamator [Framework für LLM-Schwachstellentests] - https://github.com/gh0stOo/claude-md-vorlagen-de/blob/main/guides/prompt-hardening.md [Deutschsprachiger Leitfaden zur Härtung gegen Prompt Injection mit 10 konkreten Vorher/Nachher-Codemustern (System-/Benutzertrennung, Delimiter, Ausgabvalidierung, Misstrauen gegenüber RAG-Quellen)] - https://github.com/Vick606/subcanopy-guard [Kontextbewusster Scanner für indirekte Prompt Injection] ### Adversarische Angriffe - https://gradientscience.org/intro_adversarial/ [Einführung in adversarische Beispiele] - https://cset.georgetown.edu/publication/key-concepts-in-ai-safety-robustness-and-adversarial-examples/ [KI-Sicherheit und adversarische Beispiele] - https://github.com/Trusted-AI/adversarial-robustness-toolbox [IBM Adversarial Robustness Toolbox] - https://github.com/QData/TextAttack [Adversarische Angriffe auf NLP-Modelle] - https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2025.pdf [NIST-Taxonomie für adversarisches ML] - https://llm-vulnerability.github.io/ [ACL 2024 Tutorial: LLM-Schwachstellen] - https://github.com/tensorflow/cleverhans [CleverHans - Benchmark für ML-Schwachstellen] - https://github.com/bethgelab/foolbox [Foolbox - Toolbox für adversarische Beispiele] - https://github.com/cchio/deep-pwning [Deep-pwning] ### Vergiftung & Backdoors - https://arxiv.org/abs/2009.02276 [Witches' Brew: Data Poisoning im industriellen Maßstab] - https://arxiv.org/abs/2402.09179 [Instruction-Backdoor-Angriffe auf angepasste LLMs] - https://arxiv.org/abs/2510.07192 [Vergiftungsangriffe benötigen nur wenige Punkte] - https://arxiv.org/abs/1910.03137 [MNTD: Erkennung von KI-Trojanern] - https://owasp.org/www-project-top-10-for-large-language-model-applications/ [OWASP Top 10 für LLM-Anwendungen 2025] - https://github.com/git-disl/awesome_LLM-harmful-fine-tuning-papers [Publikationen zu schädlichem Fine-Tuning von LLMs] ### Datenschutz & Extraktion - https://www.usenix.org/conference/usenixsecurity21/presentation/carlini-extracting [Extrahieren von Trainingsdaten aus LLMs] - https://arxiv.org/abs/2309.10544 [Model Leeching: Extraktionsangriff auf LLMs] - https://arxiv.org/abs/2301.10226 [Wasserzeichen für große Sprachmodelle] - https://arxiv.org/abs/2103.07853 [Umfrage zu Membership-Inference-Angriffen] - https://arxiv.org/abs/2503.19338 [Umfrage zu MIAs auf großskaligen Modellen] - https://trustllmbenchmark.github.io/TrustLLM-Website/ [TrustLLM-Benchmark] - https://github.com/stratosphereips/awesome-ml-privacy-attacks [Awesome ML Privacy Attacks] - https://github.com/chawins/llm-sp [LLM Security Papers] - https://github.com/journey-ad/gemini-watermark-remover [Clientseitiger Gemini-KI-Bildwasserzeichen-Entferner - Reverse Alpha Blending] ### Modellsicherheit - https://arxiv.org/html/2507.02737v1 [Steganografie-Fähigkeiten in Frontier-LLMs] - https://jplhughes.github.io/bon-jailbreaking/ [KI-Jailbreaking] - https://github.com/Goochbeater/Spiritual-Spell-Red-Teaming [Ein Repo zum Jailbreaken verschiedener LLMs, hauptsächlich Claude] - https://huggingface.co/blog/mlabonne/abliteration [Modell-Abliteration] - https://github.com/p-e-w/heretic [Heretic - vollautomatische Zensurentfernung für LLMs, Abliteration + Optuna-TPE-Optimierer, dense/MoE/multimodal] - https://github.com/FailSpy/abliterator [abliterator - Python-Bibliothek zum Abladieren von Refusal/Features in LLMs, TransformerLens, Cache-Aktivierungen, Refusal-Richtung] - https://github.com/spkgyk/abliteration [Abliteration - LLMs via Entfernung des Refusal-Vektors entzensieren, PyTorch-Hooks, kein TransformerLens] - https://github.com/jim-plus/llm-abliteration [llm-abliteration - abliterierte Modelle mit Transformers erstellen, Batch-Inferenz, dense/MoE, normerhaltend biprojiziert, wenig VRAM] - https://github.com/Tsadoq/ErisForge [ErisForge - denkbar einfache LLM-Abliteration, interne Layer transformieren, AblationDecoderLayer/AdditionDecoderLayer, ExpressionRefusalScorer] - https://github.com/protectai/llm-guard [LLM Guard - Sicherheitstool] - https://github.com/protectai/modelscan [ModelScan - Modelle auf unsicheren Code scannen] - https://github.com/fr0gger/nova-framework [Nova Framework - Jailbreak-Erkennung] - https://github.com/fr0gger/nova_mcp [Nova MCP Server] - https://github.com/0xAIDR/AIDR-Bastion [GenAI-Schutzsystem] - https://github.com/CAU-ISS-Lab/AIGT-Detection-Evade-Detection [Erkennung und Umgehung KI-generierter Texte] - https://github.com/AUGMXNT/deccp [deccp - Bewertung und De-Alignment chinesischer LLM-Zensur, Abliteration-PoC für Qwen2] - https://github.com/gpiat/AIAE-AbliterationBench [AbliterationBench - Benchmark zur Modellrobustheit gegenüber Residual-Stream-/Abliterations-Angriffen] ## KI-Pentesting & Red Teaming ### KI-gestütztes Pentesting - https://github.com/GreyDGL/PentestGPT [GPT-4-gestützter Pentesting-Agent] - https://github.com/zakirkun/guardian-cli [KI-gestützte Pentesting-CLI mit Gemini] - https://github.com/usestrix/strix [KI-Sicherheits-Pentesting] - https://github.com/aliasrobotics/cai [CAI - Cybersecurity-KI-Framework] - https://github.com/promptfoo/promptfoo [KI-Agenten-Pentesting-Framework] - https://github.com/antoninoLorenzo/AI-OPS [KI-Assistent für Penetration Testing] - https://github.com/yz9yt/BugTrace-AI [KI-automatisiertes Web-Pentesting] - https://github.com/six2dez/reconftw_ai [ReconFTW mit KI-Analyse] - https://github.com/projectdiscovery/katana [Katana (ProjectDiscovery) - schneller Web-Crawler/Spider für die Automatisierung: Standard & Headless, JS-Endpoint-Parsing, Scope-/Regex-Filter, JSONL; lässt sich mit httpx/nuclei und KI-Pentest-Agenten-Workflows kombinieren] - https://github.com/Ed1s0nZ/CyberStrikeAI [KI-native Sicherheitstest-Plattform mit über 100 Tools] - https://github.com/vxcontrol/pentagi [PentAGI - Vollständig autonome KI-Agenten für Penetration Testing] - https://github.com/XenoCoreGiger31/GEMMA-by-GOOGLE [HALO (GEMMA-by-GOOGLE) - Vollständig lokaler, autonomer KI-Pentesting-Agent; ein lokales Gemma-Modell steuert einen MCP-Server mit 29 Tools durch Recon, Angriff und Reporting] - https://github.com/Agnuxo1/EnigmAgent [EnigmAgent - autonomer KI-Agent für Sicherheitsforschung/Pentesting mit CTF-Benchmarking, dezentraler Schwarmkoordination, Exploit-Validierung und Lean-4-gestützten Sicherheitsaussagen] - https://github.com/KeygraphHQ/shannon [Shannon - Autonomer KI-Pentester, findet und führt echte Exploits in Web-Apps aus] - https://github.com/wudidike/pentest_skill [Automatisierungsframework für Black-Box-Web-Penetrationstests für KI-Agenten mit phasenbasiertem Workflow und Berichterstellung] - https://github.com/yv1ing/Z3r0 [Z3r0 - kontrollierte Multi-Agenten-Workbench für autorisierte Sicherheitsbewertung, Code-Auditing & Forschung: CSO-Koordinator + Spezialisten für Intelligence/Penetration/Reverse/Crypto, Docker-gebundene Sandboxes (Shell/noVNC/Dateimanager), persistente Delegation, LiteLLM/OpenAI-kompatibel; FastAPI + React; MIT] - https://github.com/ASCIT31/Dark-Moon [Dark-Moon - autonome KI-Plattform für Penetration Testing, bei der Markdown-Methodik-Playbooks über 80 offensive Tools via MCP über Web-, Cloud-, Active-Directory-, Kubernetes- und API-Ziele hinweg orchestrieren, mit einem Nachweisverlauf pro Fund] - https://github.com/Strategic-Automation/violin [Violin - überwachtes, agentisches Hermes-Agent-Pentest-Profil: 31 skillbasierte Playbooks (OWASP Top 10, API Top 10, LLM Top 10) mit interaktiver Scope-Festlegung, Scope-Validierung und Freigabeschranken. Installation über `hermes profile install https://github.com/Strategic-Automation/violin`. Hermes-nativ, keine zusätzlichen API-Schlüssel; MIT] - https://github.com/secorizon/SecorizonAI [SecorizonAI - terminalnative KI-Shell für Pentester: einzelne Go-Binary, lokales LLM via Ollama, JSON-Tool-Use-ReAct-Schleife mit Shell-Ausführung + integrierter Websuche, bedarfsgesteuerte Methodik-Leitfäden, MCP-(Burp-)Unterstützung; Apache-2.0 + Commons Clause; nur bei autorisierten Aufträgen verwenden] ### KI-Red-Teaming-Tools - https://github.com/Azure/counterfit [Microsoft ML Penetration Testing Tool] - https://github.com/Azure/PyRIT [Microsoft Red-Teaming-Framework für GenAI] - https://github.com/meta-llama/PurpleLlama [Meta Open-Source-LLM-Sicherheitstools] - https://github.com/NVIDIA/NeMo-Guardrails [NVIDIA programmierbare Guardrails] - https://github.com/NoDataFound/hackGPT [LLM-Toolkit für Offensive Security] - https://github.com/ipa-lab/hackingBuddyGPT [Autonomer Red-Teaming-Agent] - https://github.com/Yanlewen/TradeTrap [TradeTrap – testet LLM-basierte Trading-Agenten: Prompt-Injection, MCP-Hijacking, State-Tampering, Memory-Poisoning; AI-Trader/Valuecell] - https://github.com/humanbound/humanbound [Humanbound – Open-Source-CLI, die von LLMs generierte adversarische Angriffe gegen den HTTP-Endpunkt eines Agenten ausführt und die Ergebnisse anhand von OWASP LLM Top 10, OWASP Agentic Top 10, NIST und EU-AI-Act-Zuordnungen bewertet] - https://github.com/toby-bridges/api-relay-audit [API Relay Audit – lokale Audit-CLI für KI-API-Relays und LLM-Proxys; prüft auf Prompt-Injection-Signale, Paketbefehl-Änderungen, Fehlerantwort-Leaks und Anthropic-SSE-Anomalien; Markdown-Berichte] - https://github.com/taoq-ai/ziran [Ziran – Sicherheitstest-Framework für KI-Agenten: graphbasierte Tool-Chain-Erkennung, Erkennung von Seiteneffekten auf Ausführungsebene, mehrphasige Kampagnen; LangChain, CrewAI, MCP, A2A, Remote-HTTP] ### KI-Sicherheits-MCP-Tools - https://github.com/tomelias10/mcp-drift-check [MCP Drift Check — passives lokales Python-CLI, das statisch veränderliche/nicht gepinnte npm/npx-Paketreferenzen in MCP-Client-Konfigurationen kennzeichnet; führt keine Server aus, lädt keine Pakete herunter und lädt keine Konfigurationen hoch; MIT] - https://github.com/AndrewXuTurtle/mcpaudit [mcpaudit — MCP-Server + CLI, das die bereits installierten MCP-Server über Claude Desktop, Claude Code, Cursor, Windsurf und VS Code prüft. Tool-Poisoning (inkl. Zero-Width-/Bidi-Zeichen in Tool-Beschreibungen), Credential-Blast-Radius, Privilegienumfang, Transport und Supply-Chain-Provenienz: Homoglyph-Publisher-Scopes, aus der Registry entfernte Pakete, Install-Hooks und OSV/GHSA-Advisories, abgeglichen mit der aufgelösten Version. Keine Abhängigkeiten; nichts wird installiert oder ausgeführt; MIT] - https://github.com/ArmorerLabs/Armorer-Guard [Armorer Guard - lokaler Rust-Scanner und MCP-Proxy zur Erkennung von Prompt-Injection, Credential-Leakage, Exfiltration und riskanten Tool-Aufrufen vor der Ausführung] - https://github.com/0x4m4/hexstrike-ai [HexStrike AI - 150+ Cybersecurity-Tools MCP] - https://github.com/cyproxio/mcp-for-security [Pentesting MCP] - https://github.com/johnhalloran321/mcpSafetyScanner [MCP Safety Scanner] - https://github.com/Karthikathangarasu/pentest-mcp [Pentest MCP] - https://github.com/Sicks3c/hackerone-mcp-server [HackerOne MCP — inoffizielle Hacker-API über stdio: Reports, Programme, Scope, Einnahmen, Hacktivity; einreichen/kommentieren/schließen; MIT] - https://github.com/zhizhuodemao/android_proxy_mcp [Android Proxy MCP - MCP-basierte Android-Traffic-Erfassung, KI analysiert HTTP/HTTPS per natürlicher Sprache] - https://github.com/MHaggis/Security-Detections-MCP [Security Detections MCP - vereinheitlicht Sigma/Splunk ESCU/Elastic/KQL, 71+ Tools, 11 Prompts, autonome Erkennungsplattform] - https://github.com/ai-blueteam/http-detection-agent [http-detection-agent - fähigkeitsbewusste HTTP-Angriffserkennung: Rust-CLI und lokaler MCP-Server über einen normalisierten Regelkatalog mit 76 Erkennungen aus 62 Verhaltensfamilien; MIT] - https://github.com/Correctover/correctover-scan [correctover-scan - Zero-Config-npm-CLI, die MCP-Client-Konfigurationen (Claude Desktop, Cursor, VS Code) auf Credential-Exposure, SSRF, fehlende Auth-/Transportverschlüsselung und andere Fehlkonfigurationen prüft; Befunde auf OWASP AISVS abgebildet; JSON/SARIF-Ausgabe für CI; MIT] - https://github.com/rolandpg/zettelforge [ZettelForge — CTI-agentisches Gedächtnis als MCP-Server mit Entitätsextraktion (CVEs, Threat Actors, IOCs, MITRE ATT&CK), Knowledge Graph mit Alias-Auflösung, STIX 2.1, intent-klassifiziertem Retrieval, OCSF-Audit-Logging; offline; MIT] - https://github.com/doomsday-network/bounty-guard [BountyGuard — Open-Source-Prompt-Injection-Firewall, veröffentlichte Honeypot-Blocklist (data/honeypots.json) und abhängigkeitsfreier MCP-Sicherheitsserver (mcp_server.py / https://doomsday.network/mcp), der GitHub-Repositories auf Trap-Signaturen prüft und Issues in SAFE_WITH_ESCROW, SAFE_NO_ESCROW oder QUARANTINE klassifiziert; MIT] ### KI-gestütztes C2 - https://github.com/Red-Hex-Consulting/Ankou [KI-C2-Framework] ### KI-Passwort-Cracking - https://github.com/d-sec-net/VPK [KI-automatisiertes Passwort-Cracking] ## KI-Sicherheitstools & -Frameworks ### KI-SOC & SecOps - https://github.com/Vigil-SOC/vigil [Vigil - quelloffenes KI-natives SOC: 12 spezialisierte Agenten, Multi-Agent-Workflows, MCP-Integrationen (SIEM/EDR/TI/Sandbox/Ticketing), FastAPI + React] - https://github.com/ccjmcc/jevsec [JevSec - Jev-kompatible Entscheidungsmodell-Sicherheitstriage für kurzes cross-request Web-Verhalten; kombiniert deterministische Regeln mit lokalem Qwen3-4B, datenschutzbewusster Normalisierung und Shadow-Mode-Review; MIT] ### KI-gestützte Reverse Engineering - https://github.com/ZeroDaysBroker/GhidraGPT [GPT-Integration für Ghidra] - https://github.com/jtang613/GhidrAssist [LLM-Erweiterung für Ghidra] - https://github.com/0xeb/windbg-copilot [WinDbg Copilot - Agentische Debugging-Erweiterung] - https://github.com/agentrebench/AgentRE-Bench [AgentRE-Bench - Agentischer Benchmark für langfristiges binäres RE: C2/Encoding/Anti-Analyse, deterministische Bewertung, 13 ELF-Aufgaben] - https://github.com/banteg/bn [bn - Agentenfreundliche Binary-Ninja-CLI: Dekompilieren, Xrefs, Typen, Mutationen über Unix-Socket zum GUI-Plugin] - https://github.com/amruth-sn/kong [Kong - agentischer Reverse Engineer, LLM-orchestriertes binäres RE über In-Process-Ghidra, Call-Graph-Analyse, agentische Deobfuskierung] - https://github.com/CSIT-SG/AETHER [Ein KI-gestützter Reverse-Engineering-Copilot zur Unterstützung mühsamer Malware-Analyse in IDA Pro] - https://github.com/thatskriptkid/re-harness [RE-harness - OpenCode-Plugin für statische Windows-PE-Analyse für Qwen 27B/35B: strukturierte schreibgeschützte IDA/IDASQL-Tools, NeverD/LLVM-Lift-Fallback für große Funktionen; Malware-Analyse-Harness; macOS/Linux] - https://github.com/mrphrazer/ghidra-headless-mcp [ghidra-headless-mcp — Headless-Ghidra über MCP] - https://github.com/vwww-droid/Mira [Mira - Workbench zur Erkennung mobiler Laufzeitumgebungen (Android/iOS): KI-native Live-Laufzeitanalyse mit Relay + MCP, Remote-Shell/Frida-Workflows und wiederverwendbarem Erkennungswissen] - https://github.com/buzzer-re/ToCode [ToCode - exportiert Binärdateien/IDA-Datenbanken in quellcodeähnliche Projektbäume (wiederhergestelltes C, Asm, Zusammenfassungen, umfangreiche JSON-Metadaten + AGENTS.md), damit Coding-Agenten große Binärdateien als Orakel durchlaufen können; unterstützt IDA Pro und radare2] - https://github.com/cellebrite-labs/ghidra-rpc [ghidra-rpc - agentische Ghidra-Skill: führt Ghidra als persistenten PyGhidra-Daemon aus, der Dekompilieren/Xrefs/Typwiederherstellung/Patch/Binär-Diff über eine JSON-CLI über Unix-Socket bereitstellt und von jedem shell-fähigen KI-Assistenten (Cursor, Claude Code usw.) angesteuert werden kann; von Cellebrite Labs] - https://github.com/morluto/rea [REA - lokale CLI und MCP-Server für agentenunterstütztes Reverse Engineering von nativen Binärdateien, JavaScript/Electron-Apps und .NET-Assemblies; Nachweis-Herkunft und explizite Einschränkungen; native Tiefenanalyse nutzt separat installiertes Hopper, Ghidra oder IDA] ### KI-gestützte Schwachstellenerkennung - https://github.com/Mayaaa311/LLMBugScanner [LLM BugScanner - Pipeline im GPTLens-Stil: austauschbare HF-Code-LLMs als Auditor + Kritiker, Einstufung der Befunde nach Korrektheit/Schweregrad; Solidity-orientierte Datensätze] - https://github.com/LLMAudit/LLMSmartAuditTool [LLM-SmartAudit - Multi-Agenten-Solidity-Auditing (BA/TA-Modi), aufgabenorientierte Rollen, 40+ Detektor-Prompts, Batch-Notebooks + Web-Visualizer, OpenAI API; arXiv:2410.09381] - https://github.com/scabench-org/hound [KI-Auditor mit adaptiven Wissensgraphen] - https://github.com/416rehman/DeepZero [DeepZero - automatisierte Pipeline-Engine für Schwachstellenforschung (YAML-definierte Phasen) für groß angelegte Analyse von Windows-Kernel-Treibern, Dekompilierung und Bewertung der IOCTL-Ausnutzbarkeit mit KI-Agenten] - https://github.com/kpolley/redai [RedAI - Terminal-Workbench für KI-gesteuerte Schwachstellenerkennung mit Live-Validierungsnachweisen (Browser/iOS-Validator-Umgebungen, PoCs, Logs, Screenshots, reproduzierbare Berichte)] - https://github.com/vercel-labs/deepsec [deepsec - Coding-Agent-gestützte Sicherheits-Harness für große Codebasen: Scanning von Kandidatenstellen, KI-Untersuchung/Revalidierung und exportierbare Befund-Workflows] - https://github.com/Agent-Field/sec-af [SEC-AF - KI-nativer Sicherheitsauditor auf AgentField: belegt Ausnutzbarkeit mit Urteilen, Datenfluss-Traces und umsetzbaren Nachweisen; adversarialer Hunt/Prove-Agent-DAG; Apache-2.0] - https://github.com/evilsocket/audit [audit - 8-stufiger Agent zur Schwachstellenerkennung (im Stil von Cloudflare Glasswing): Recon/Hunt/Validate/Gapfill/Dedupe/Trace/Feedback/Report; schmale Agenten + adversariales Widerlegen + Reachability-Gate; Claude Code Agent SDK, Subscription-OAuth; MIT] - https://github.com/visa/visa-vulnerability-agentic-harness [VVAH (Visa) - agentische SAST-Pipeline für autonome Schwachstellenerkennung: 9-stufige Bedrohungsmodellierung → Multi-Lens-Recherche → adversariales Verifizieren → SARIF; Multi-Modell (Claude CLI/SDK, OpenAI); von Glasswing inspiriert; `vvaharness` CLI; nur zur autorisierten Nutzung] - https://github.com/scadastrangelove/rust-in-peace [rust-in-peace - agentische Harness zur Schwachstellenerkennung in Rust: autonome Recon/Find/Triage/Patch-Schleife für Unsafe/FFI-Speicherfehler, Panic-DoS und Deserialisierungs-Vertrauensprobleme; verifiziert Befunde mit Miri/ASan/Panic/Hang-Detektoren und cargo-fuzz] - https://github.com/zakirkun/deep-eye [Deep Eye - KI-gesteuerter Schwachstellenscanner und Pentesting-Framework mit Unterstützung mehrerer LLM-Anbieter, Payload-Generierung, Recon-Modulen und Berichtsexport] - https://semgrep.dev/ [KI-unterstütztes SAST] - https://github.com/squirrelscan/squirrelscan [Website-Audit-Tool für Agenten-/LLM-Workflows (Sicherheit/Performance/SEO)] - https://github.com/rohansx/vgx [Git-Pre-Commit-Sicherheitsscanner mit LLM-Integration (erkennt KI-Code + Schwachstellen)] - https://github.com/HikaruEgashira/vulnhuntrs [KI-Web-Sicherheits-Audit-Tool] - https://github.com/xvnpw/ai-security-analyzer [KI-Sicherheitsdokument-Generator] - https://github.com/aress31/burpgpt [BurpGPT - KI-Schwachstellenscanning] - https://github.com/haroonawanofficial/AISA-Scanner [KI-Sicherheitsscanner] - https://github.com/youpengl/OpenVul [OpenVul - Post-Training-Framework für LLM-basierte Schwachstellenerkennung (SFT/DPO/ORPO/GRPO)] - https://github.com/Pinperepette/snakebite [snakebite - PyPI-Lieferketten-Scanner: Heuristiken + optionales LLM zur Reduzierung von Fehlalarmen; lokaler Modus oder RSS-Feed-Modus] - https://github.com/rushter/hexora [hexora - Rust-Statik-Analysator für bösartiges Python (Lieferkette, eingefügte Skripte, IoCs); AST-Regeln mit Konfidenzstufen] - https://github.com/sashiko-dev/sashiko [Sashiko - agentische Überprüfung von Linux-Kernel-Patches (Rust): lore.kernel.org + lokales Git, mehrstufiges LLM-Protokoll (Implementierung, Nebenläufigkeit, Sicherheit, Treiber), Web-UI/CLI; eigenständig; Patch-/Kernel-Kontext wird an LLM gesendet – Freigabe zum Teilen erteilen & API-Kosten überwachen; Apache-2.0] ### KI-gestützte CVE-Analyse - https://github.com/arschlochnop/VulnWatchdog [CVE-Überwachung mit GPT-Analyse] - https://github.com/suhasgowtham-x/aegis-security-co-pilot [KI-CVE-Scanner] - https://github.com/ucsb-mlsec/VulnLLM-R [Spezialisiertes Reasoning-LLM für Schwachstellen] - https://github.com/RogoLabs/VulnRadar [VulnRadar - Schwachstellen-Radar über GitHub Actions: CVE-Watchlist, KEV/EPSS/PatchThis, Issues, Discord/Slack/Teams] ### KI-OSINT - https://ai.cylect.io/ [KI-OSINT] - https://github.com/apurvsinghgautam/robin/ [KI-gestütztes Dark-Web-OSINT-Tool] - https://github.com/calesthio/Crucix [Crucix - selbst gehostetes OSINT-Terminal: 27 offene Feeds (Satelliten, Flüge, Konflikte, Märkte), Jarvis-Dashboard, optionale LLM-Warnungen & Telegram/Discord-Bots] ### KI-Sicherheitsbibliotheken - https://secml.readthedocs.io/ [SecML - Sichere und erklärbare ML-Bibliothek] - https://github.com/google/oss-fuzz-gen [KI-Code-Audit-Fuzzing-Tool] - https://github.com/Invicti-Security/brainstorm [KI-Fuzzer für Webanwendungen] - https://github.com/NativeStar/js-hooker [js-hooker - leichtgewichtige JavaScript-Hooking-Bibliothek für Browserumgebungen (Laufzeit-Interception/Instrumentierungs-Helfer)] ### TLS, Fingerabdrücke & Bot-Signale (Web / Automatisierung) - https://github.com/rawandahmad698/noble-tls [noble-tls - Python-HTTP-Client mit TLS/JA3-Impersonation (requests-ähnliche API, automatisch aktualisierte Fingerabdrücke)] - https://github.com/lexiforest/curl_cffi [curl_cffi - Python-Bindings für libcurl-impersonate: browserkonforme TLS/JA3- und HTTP/2-Fingerabdrücke ohne vollständigen Browser; starke Standardwahl für skriptgesteuerte Abrufe] - https://github.com/0x676e67/rnet [rnet - Rust-HTTP-Client mit Kontrolle über TLS-JA3/JA4- und HTTP/2-Fingerabdrücke] - https://github.com/fingerprintjs/BotD [BotD (FingerprintJS) - quelloffenes clientseitiges Bot-Erkennungs-SDK, das du in deine eigenen Seiten einbettest (selbst gehostet / First-Party-Integration)] - https://github.com/tiagozip/cap [Cap - datenschutzorientierte, selbst gehostete CAPTCHA-Alternative (Proof-of-Work- + Instrumentierungs-Challenges); ~20kb, keine Telemetrie, eigenständiges Docker, Unsichtbar-Modus; Alternative zu reCAPTCHA/hCaptcha/Turnstile; Apache-2.0] - https://github.com/botswin/BotBrowser [BotBrowser - plattformübergreifendes Chromium für Automatisierung/QA gegen Anti-Bot-Stacks (Cloudflare, Akamai, Kasada, Shape, DataDome, PerimeterX, hCaptcha, FunCaptcha, Imperva, reCAPTCHA, ThreatMetrix, Adscore usw.); nur auf Systemen verwenden, die dir gehören] - https://github.com/MiddleSchoolStudent/BotBrowser [BotBrowser (alternative Distribution) - headless-orientierte Chromium-Builds für Anti-Bot-Automatisierung; vergleiche mit dem botswin-Fork; nur autorisierte Ziele] - https://github.com/zhom/donutbrowser [Donut Browser - quelloffenes Anti-Detect-Chromium (Wayfern) mit isolierten Profilen, Proxy/VPN, lokaler API & MCP für Claude/Automatisierung; AGPL-3.0; nur autorisierte Ziele] - https://github.com/daijro/camoufox [Camoufox - stealth-orientierter Firefox für Scraping/Automatisierung; passt gut zu Stacks im Browser-Use-Stil und Cloudflare-Challenge-Hilfstools (z. B. Solver-Proxys); nur dort verwenden, wo du autorisiert bist] - https://github.com/AlloryDante/undetected-browser [undetected-browser - modifizierter Puppeteer/Chromium-Stack für Automatisierungstests mit geringerer Erkennung] - https://github.com/ultrafunkamsterdam/nodriver [nodriver - Chrome-Steuerung im Undetected-Stil ohne klassische WebDriver-Oberfläche; Python-Treiber für gehärtete Automatisierungsforschung] - https://github.com/Xewdy444/CF-Clearance-Scraper [CF-Clearance-Scraper - skriptgesteuerter Abruf von Cloudflare-`cf_clearance` / Session-Artefakten für HTTP-Clients; nur für autorisierte Tests und Forschung] - https://github.com/FlareSolverr/FlareSolverr [FlareSolverr - selbst gehostete HTTP-API/Proxy, die Cloudflare-Challenges löst und Cookies/HTML für nachgelagerte Clients zurückgibt; nur in Netzwerken und auf Seiten bereitstellen, die du testen darfst] - https://github.com/xKiian/awswaf [awswaf - AWS-WAF-Browser-Challenge- / Token-Verarbeitung für skriptgesteuerte Clients; für autorisierte Sicherheitsforschung und Ziele, die dir gehören oder für die du ausdrückliche Testgenehmigung hast] - https://github.com/fingerprintjs/fingerprintjs [FingerprintJS - Browser-Fingerprinting-Bibliothek (quelloffene Besucheridentifikation)] - https://github.com/abrahamjuliot/creepjs [CreepJS - Browser-Fingerprinting + Anti-Spoofing / Lügenerkennung; modulare parallele Erfassung für Datenschutz- und Bot-Forschung] --- [Read more](https://github.com/gmh5225/awesome-ai-security)