albertan017/llm4decompileリバースエンジニアリング: 大規模言語モデルによるバイナリコードの逆コンパイル
📊 結果 | 🤗 モデル | 🚀 クイックスタート | 📚 HumanEval-Decompile | 📎 引用 | 📝 論文 | 🖥️ Colab | ▶️ YouTube
リバースエンジニアリング: 大規模言語モデルによるバイナリコードの逆コンパイル
コンパイル時、プリプロセッサはソースコード（SRC）を処理してコメントを除去し、マクロやインクルードを展開します。クリーニングされたコードは次にコンパイラに渡され、アセンブリコード（ASM）に変換されます。このASMはアセンブラによってバイナリコード（0と1）に変換されます。リンカは関数呼び出しをリンクして実行可能ファイルを作成し、プロセスを完了させます。一方、逆コンパイルはバイナリコードをソースファイルに戻す変換を含みます。LLMはテキストでトレーニングされているため、バイナリデータを直接処理する能力がありません。そのため、バイナリはまず Objdump によってアセンブリ言語（ASM）に逆アセンブルされる必要があります。バイナリと逆アセンブルされたASMは等価であり、相互変換できることに注意してください。したがって、私たちはこれらを同じ意味で扱います。最後に、逆コンパイルされたコードとソースコードの間で損失が計算され、トレーニングを導きます。逆コンパイルされたコード（SRC'）の品質を評価するために、テストアサーション（再実行可能性）を通じてその機能がテストされます。
LLM4Decompileには、13億から330億パラメータのサイズのモデルが含まれており、これらのモデルをHugging Faceで公開しています。
| モデル | チェックポイント | サイズ | 再実行可能性 | 注記 |
|---|---|---|---|---|
| llm4decompile-1.3b-v1.5 | 🤗 HF Link | 1.3B | 27.3% | 注記3 |
| llm4decompile-6.7b-v1.5 | 🤗 HF Link | 6.7B | 45.4% | 注記3 |
| llm4decompile-1.3b-v2 | 🤗 HF Link | 1.3B | 46.0% | 注記4 |
| llm4decompile-6.7b-v2 | 🤗 HF Link | 6.7B | 52.7% | 注記4 |
| llm4decompile-9b-v2 | 🤗 HF Link | 9B | 64.9% | 注記4 |
| llm4decompile-22b-v2 | 🤗 HF Link | 22B | 63.6% | 注記4 |
注記3: V1.5シリーズは、より大規模なデータセット（15Bトークン）と最大トークンサイズ4,096でトレーニングされており、以前のモデルと比較して顕著な性能（100%以上の改善）を達成しています。
注記4: V2シリーズはGhidraを基盤としており、Ghidraによって逆コンパイルされた疑似コードを改良するために20億トークンでトレーニングされています。詳細はghidraフォルダを確認してください。
セットアップ: 必要な環境をインストールするには、以下のスクリプトを使用してください。
git clone https://github.com/albertan017/LLM4Decompile.git
cd LLM4Decompile
conda create -n 'llm4decompile' python=3.9 -y
conda activate llm4decompile
pip install -r requirements.txt
以下は、私たちのモデルの使用例です（V1.5用に改訂。以前のモデルについては、HFの対応するモデルページを確認してください）。 注: 逆コンパイルしたい関数名で "func0" を置き換えてください。