#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Alignment-Research-Scaffold (im Autoresearch-Stil) für LLM-Guardrails: Suche über eine einzelne policy.md-Oberfläche

Leichtgewichtige, sichere Linux-Sandboxes für nicht vertrauenswürdige Prozesse. Läuft im Browser und auf dem Server.

Forschungscode für Poisoning-Angriffe auf den PGM-Index, der demonstriert, wie adversarial Daten erstellt werden, um die Leistung gelernter Indizes…

Black-Box-Angriffsframework, das das Denken in agentischen Retrieval-Augmented-Generation-Systemen durch das Einschleusen vergifteter Dokumente…

eine Schutzvorrichtung, die katastrophale Agentenaktionen blockiert

Leistungsstarker Schutz für KI-Agenten - Open-Source-Sicherheit und Kostenverfolgung für KI-Anwendungen

Professioneller Schwachstellenbewertungsbericht für das Risiko einer Befehlsinjektion in LiteLLM, einschließlich Management-Zusammenfassung,…

Reproduktionscode für eine kontrollierte Studie zu Membership-Inference-Angriffen auf OLMo 2, einschließlich Dokumenteinfügung, Mid-Training,…

Trainieren, evaluieren und erkunden Sie neuronale Netze mit integrierten Werkzeugen für Adversarial Robustness, einschließlich PGD-Angriffen,…

Fingerabdrücke von OpenAI-kompatiblen LLMs anhand von Tokenizer- und Verhaltenssignalen erstellen.

Zero shot Schwachstellenentdeckung mithilfe von LLMs


Forschungscode zum Hinzufügen steuerbarer Sicherheitsexperten zu LLM-Schichten mittels zweistufigem Upcycling-Training, mit…

Forensik auf LLM-Gewichtsebene: Modellgewichte vergleichen, Fine-Tunes, Merges und getarnte Derivate erkennen und Tokens aufdecken, die ein Fine-Tune…

Code und Paper-Quelltext für eine NeurIPS-EvoRobust-Studie, die zeigt, dass einfache Bag-of-Words- und Metadaten-Merkmale die meisten…

Open-Source-Sandbox-Agent-Harness für Teams. Jeder Mitarbeiter erhält einen gesicherten persönlichen Agenten.

Locken Sie KI-Web-Scraper in eine endlose Giftgrube.

Lila Team Exercise Framework