歪みのないテキスト透かしのための最適カップリング の公式コード
大規模言語モデル(LLM)は、現在では人間が生成したコンテンツと見分けがつかないテキストを生成できるようになりました。 このことが、LLMの出力への摂動を最小限に抑えつつ、LLMが生成したテキストに'シグナル'を刻み込む透かしの開発を促進しました。 本論文は、ワンショット設定におけるテキスト透かしの分析を提供します。 サイド情報を伴う仮説検定の観点から、透かし検出能力と生成テキスト品質の歪みとの間の基本的なトレードオフを定式化し、分析します。 透かし設計における重要な構成要素は、透かし検出器と共有されるサイド情報と、LLMの語彙のランダム分割との間のカップリングを生成することであると、我々は主張します。 我々の分析は、最小エントロピー制約を満たす最悪ケースのLLM次トークン分布の下で、最適なカップリングとランダム化戦略を特定します。 提案方式の下での結果的な検出率の閉形式表現を提供し、そのコストをmax-minの意味で定量化します。 最後に、提案方式を理論的最適解と数値的に比較します。