見た目

Llamaの使用

LLama2は現在利用可能な最良のオフラインかつ無料のオプションの1つです。現在改良中であり、AIにサイバーセキュリティの視点をより適切に組み込むプロンプトに取り組んでいます。 @thisserand 氏と彼の llama2_local リポジトリ、そして彼のYT動画 YT_Video に感謝します。これらは素晴らしいリソースでした。正直なところ、llama2のコードは95%が彼のもので、私はコードを流用してFlask API機能を追加しただけです。

AIのオフラインおよびコード外でのテストの精度は素晴らしく、openaiやbardと同等でしたが、コード内ではプロンプトなどの理由でいくつか問題が発生していました。修正に努めます。 速度はシステムとGPUおよびCPUの構成に依存します。現在は TheBloke/Llama-2-7B-Chat-GGML モデルを使用しており、portscanner および dnsrecon ファイルで変更可能です。

当面、llamaのコードとスキャンは別々に処理されます。いくつかのテストの結果、llamaは私が意図したように動作するために少しトレーニングが必要であることがわかりました。そのため、時間がかかります。これを行う方法についての提案は、このリポジトリのディスカッションに追加できます ディスカッションリンク。現在のところ、出力はすべてのデータを分割したリストではなく、AIによって発見された脆弱性や問題の説明になります。

モデル使用のプロンプトは次のようになります:

指示は次のようになります:

指示セットとプロンプトで提供されたデータを使用して、llama AIが出力を生成します。

ほとんどの使用では、runpodサーバーレスエンドポイントデプロイメントのllamaを作成することをお勧めします。このチュートリアルを参照してください：tutorial。より良い使用のためにチュートリアルに従ってください。

チャット:

静的コード分析:

脆弱性分析:

インストール

前提条件

インストールを進める前に、次の前提条件を満たしていることを確認してください：

• Python (3.11以降)
• pip3 パッケージマネージャー
• Visual Studio Code - このリンクの手順に従ってください llama-cpp-prereq-install-instructions
• cmake

ステップ 1: リポジトリのクローン

ステップ 2: 依存関係のインストール

ステップ 3: AIモデルのダウンロード

HackBotを初めて実行すると、チャットボットに必要なAIモデルがチェックされます。モデルが存在しない場合、自動的にダウンロードされ、"llama-2-7b-chat.ggmlv3.q4_0.bin" としてプロジェクトディレクトリに保存されます。

使用方法

HackBotとの会話を開始するには、次のコマンドを実行します：

ローカルLLamaユーザー向け

.env ファイルは次のようになっている必要があります：

それが完了したら、これを実行します。

RunPod LLamaユーザー向け

.env ファイルは次のようになっている必要があります：

それが完了したら、これを実行します。

HackBotはバナーを表示し、入力を受け付けます。サイバーセキュリティ関連の質問をすると、HackBotが情報を提供する回答を返します。チャットを終了するには、入力プロンプトに "quit_bot" と入力します。

以下は使用できる追加コマンドです：

• clear_screen: コンソール画面をクリアして読みやすくします。
• quit_bot: チャットアプリケーションを終了します。
• bot_banner: デフォルトのボットバナーを表示します。
• contact_dev: 連絡先情報を提供します。
• save_chat: 現在のセッションのやり取りを保存します。
• vuln_analysis: スキャンデータまたはログファイルを使用して脆弱性分析を行います。
• static_code_analysis: スキャンデータまたはログファイルを使用して静的コード分析を行います。

注意: よりchatGPTのような体験を提供するために、さらに多くのアドオンとコマンドに取り組んでいます。

ご注意: HackBotの応答はMeta-LLama2 AIモデルに基づいており、その精度は提供されたクエリとデータの品質に依存します。

また、より専門的なレベルでハッカー向けに正確に調整されるようにAIを訓練する作業にも取り組んでいます。

コントリビューション

HackBotの機能と精度を向上させるためのコントリビューションを歓迎します。問題が発生した場合や機能強化の提案がある場合は、遠慮なくIssueを開くか、プルリクエストを送信してください。コントリビュートするには以下の手順に従ってください：

1. リポジトリをフォークします。
2. 説明的な名前で新しいブランチを作成します。
3. 変更を加えてコミットします。
4. 変更をフォークしたリポジトリにプッシュします。
5. このリポジトリの main ブランチに対してプルリクエストを開きます。

クリーンなコミット履歴を維持し、プロジェクトのコーディングガイドラインに従ってください。

AIトレーニング

テキスト生成モデルのトレーニングに関する知識がある方で、コードの改善に協力していただける方がいらっしゃいましたら歓迎します。AIトレーニング部分については、データセットとトレーニング用の動作コードを準備しましたが、トレーニング部分で問題に直面しており、協力をいただけるとありがたいです。 データセットは以下で確認できます：

• HuggingFace
• GitHub

GitHub版のデータセットはOpenAIトレーニング用で、もう一つはMetaのLlama2-7b用です。データセットの目的は、CVEデータをより適切に扱えるAIモデルを生成する可能性を試すことです。データセットが不足していると感じた場合は、自由に修正し、ご意見をお聞かせください。

連絡先

HackBotに関するご質問、フィードバック、お問い合わせは、プロジェクト管理者までお気軽にご連絡ください：

• メール: [email protected]
• Twitter: @morpheuslord2
• LinkedIn: ChiranjeeviG