Broken Hill

Broken Hill ist ein produktionsreifes, einsatzbereites automatisiertes Angriffswerkzeug, das maßgeschneiderte Prompts erzeugt, um Beschränkungen in großen Sprachmodellen (LLMs) mithilfe des Greedy-Coordinate-Gradient-Angriffs (GCG) zu umgehen, wie er in dem Paper „Universal and Transferable Adversarial Attacks on Aligned Language Models“ von Andy Zou, Zifan Wang, Nicholas Carlini, Milad Nasr, J. Zico Kolter und Matt Fredrikson beschrieben ist.

Broken Hill kann robuste Prompts erzeugen, die erfolgreich LLMs jailbreaken, die anders konfiguriert sind als das Modell, mit dem die Prompts erzeugt wurden. Zum Beispiel:

Dasselbe Modell mit mehr oder weniger Parametern
- z. B. wurden die Prompts mit der 2-Milliarden-Parameter-Version von Gemma erzeugt, aber gegen eine Implementierung eingesetzt, die auf der 7-Milliarden-Parameter-Version von Gemma basiert.
Dasselbe Modell mit Gewichten, die zu unterschiedlichen Typen quantisiert sind
- z. B. wurden die Prompts mit der Version von Phi 3 erzeugt, deren Gewichte im FP16-Format gespeichert sind, aber gegen die ollama-Standardversion von Phi 3 eingesetzt, deren Gewichte auf das 4-Bit-q4_0-Integerformat quantisiert sind.
Dasselbe Modell, aber mit anderen Randomisierungs-Einstellungen
- z. B. eine nicht standardmäßige Temperatur oder ein anderer Random-Seed.
Möglicherweise sogar ein anderes Modell als das, mit dem die Prompts erzeugt wurden

BrokenHill

Beliebteste

Dokumentation

Funktionen

Für zukünftige Versionen geplant