RRC-Steganografie

Rotation Range-Coding (RRC)-Steganografie — eine effiziente und beweisbar sichere linguistische steganografische Methode, die geheime Nachrichten in natürlichsprachlichen Text einbettet, der von großen Sprachmodellen erzeugt wird.

Paper: Efficient Provably Secure Linguistic Steganography via Range Coding

So funktioniert es

Der Rotationsmechanismus löst zwei Probleme der herkömmlichen Range-Coding-Steganografie:

1. Erhaltung der Wahrscheinlichkeitsverteilung — der rotierte geheime Wert ist innerhalb jedes Intervalls gleichverteilt, sodass die Tokenauswahl der ursprünglichen LM-Verteilung folgt.
2. Frische Zufälligkeit — ein neuer PRNG-Offset bei jedem Schritt verhindert die Wiederverwendung von Zufallswerten.

Repository-Struktur

.
├── RRC_embed.py   # Embedding (Algorithm 3) 
├── RRC_extract.py   # Extraction (Algorithm 4) 
├── test_roundtrip.py         # Self-contained end-to-end verification script
├── requirements.txt          # Python dependencies
└── README.md

Anforderungen

• Python ≥ 3.10
• PyTorch ≥ 2.0
• Transformers ≥ 4.35

Abhängigkeiten installieren:

pip install -r requirements.txt

Schnellstart

1. Korrektheit überprüfen

Der Round-Trip-Test verwendet meta-llama/Llama-2-7b-hf und läuft auf CPU/CUDA:

python test_roundtrip.py

Erwartete Ausgabe:

>>> Step 3: Verification
    Original: 10110011001010111010011100101011...
    Extracted: 10110011001010111010011100101011...

    ✅ SUCCESS — extracted message matches perfectly!

2. Eine geheime Nachricht einbetten

Bereiten Sie eine Prompts-Datei 0.Prompts.tsv mit den Spalten idx und text vor und führen Sie dann Folgendes aus:

python RRC_embed.py \
    --language_model meta-llama/Llama-3.1-8B \
    --bit_length 128 \
    --key 42 \
    --top_k -1

3. Die geheime Nachricht extrahieren

python RRC_extract.py \
    --language_model meta-llama/Llama-3.1-8B \
    --bit_length 128 \
    --key 42 \
    --input_file 1.RC_decimal_Llama-3.1-8B_bit128.tsv

⚠️ Wichtig: Sender und Empfänger müssen für eine korrekte Extraktion das gleiche Sprachmodell, denselben Schlüssel, dieselbe Bitlänge und dieselbe Top-k-Einstellung verwenden.

CLI-Argumente

RRC_embed.py

RRC_extract.py

Technischer Hinweis: Decimal-Modulo

Der Decimal-Typ von Python verwendet für den %-Operator eine abgeschnittene Division, die negative Reste liefern kann (z. B. Decimal('-19672') % Decimal('65536') → -19672 statt 45864). Diese Implementierung verwendet eine decimal_mod-Hilfsfunktion, die garantiert, dass das Ergebnis immer in [0, m) liegt:

def decimal_mod(a, m):
    return a - m * (a / m).to_integral_value(rounding=ROUND_FLOOR)

⚠️ Für eine zuverlässige Geheimtext-Extraktion werden einige Operationen (sort, cumsum) mit float64-Präzision auf die CPU ausgelagert, um CUDA-Nichtdeterminismus zu vermeiden. Dies tauscht ein wenig Geschwindigkeit gegen eine garantierte Kodierungs- und Dekodierungskonsistenz.