लोकल ब्राउज़र - डिवाइस पर AI वेब ऑटोमेशन
जल्द ही हमारे मुख्य रिपॉजिटरी में runanywhere-web-sdk के लिए समर्थन लॉन्च कर रहे हैं: कृपया इसे देखें: https://github.com/RunanywhereAI/runanywhere-sdks
एक Chrome एक्सटेंशन जो WebLLM का उपयोग करके AI-संचालित वेब ऑटोमेशन को पूरी तरह से डिवाइस पर चलाता है। कोई क्लाउड API नहीं, कोई API कुंजी नहीं, पूरी तरह से निजी।
डेमो
https://github.com/user-attachments/assets/898cc5c2-db77-4067-96e6-233c5da2bae5
विशेषताएँ
- डिवाइस पर AI: स्थानीय LLM अनुमान के लिए WebGPU त्वरण के साथ WebLLM का उपयोग करता है
- मल्टी-एजेंट सिस्टम: बुद्धिमान कार्य निष्पादन के लिए योजनाकार + नेविगेटर एजेंट
- ब्राउज़र ऑटोमेशन: वेब पेजों पर नेविगेट करें, क्लिक करें, टाइप करें, डेटा निकालें
- गोपनीयता-प्रथम: सभी AI स्थानीय रूप से चलता है, कोई डेटा आपके डिवाइस से बाहर नहीं जाता
- ऑफ़लाइन समर्थन: प्रारंभिक मॉडल डाउनलोड के बाद ऑफ़लाइन काम करता है
त्वरित आरंभ
पूर्वापेक्षाएँ
- Chrome 124+ (सेवा कर्मियों में WebGPU के लिए आवश्यक)
- Node.js 18+ और npm
- WebGPU समर्थन वाला GPU (अधिकांश आधुनिक GPU काम करते हैं)
स्थापना
-
क्लोन करें और निर्भरताएँ स्थापित करें:
cd local-browser
npm install
-
एक्सटेंशन बनाएँ:
-
Chrome में लोड करें:
chrome://extensions खोलें
- "डेवलपर मोड" सक्षम करें (ऊपर दाएं)
- "लोड अनपैक्ड" पर क्लिक करें
- इस प्रोजेक्ट से
dist फ़ोल्डर चुनें
-
पहली बार चलाएँ:
- अपने टूलबार में एक्सटेंशन आइकन पर क्लिक करें
- पहली बार चलाने पर AI मॉडल (~1GB) डाउनलोड होगा
- यह भविष्य में उपयोग के लिए कैश्ड रहेगा
उपयोग
- किसी भी वेबपेज पर नेविगेट करें
- लोकल ब्राउज़र एक्सटेंशन आइकन पर क्लिक करें
- एक कार्य टाइप करें जैसे:
- "Wikipedia पर 'WebGPU' खोजें और पहला पैराग्राफ निकालें"
- "example.com पर जाएँ और बताएँ कि वहां क्या है"
- "खोज बॉक्स ढूंढें और 'AI समाचार' खोजें"
- AI को चरण दर चरण कार्य निष्पादित करते देखें
विकास
विकास मोड
यह परिवर्तनों पर नज़र रखता है और स्वचालित रूप से पुनर्निर्माण करता है।
परियोजना संरचना
local-browser/
├── manifest.json # Chrome एक्सटेंशन मैनिफ़ेस्ट (MV3)
├── src/
│ ├── background/ # सेवा कार्यकर्ता
│ │ ├── index.ts # प्रवेश बिंदु और संदेश हैंडलिंग
│ │ ├── llm-engine.ts # WebLLM रैपर
│ │ └── agents/ # AI एजेंट सिस्टम
│ │ ├── base-agent.ts
│ │ ├── planner-agent.ts
│ │ ├── navigator-agent.ts
│ │ └── executor.ts
│ ├── content/ # सामग्री स्क्रिप्ट
│ │ ├── dom-observer.ts # पृष्ठ स्थिति निकालना
│ │ └── action-executor.ts
│ ├── popup/ # React पॉपअप UI
│ │ ├── App.tsx
│ │ └── components/
│ └── shared/ # साझा प्रकार और स्थिरांक
└── dist/ # बिल्ड आउटपुट
यह कैसे काम करता है
- उपयोगकर्ता पॉपअप UI में एक कार्य दर्ज करता है
- योजनाकार एजेंट कार्य का विश्लेषण करता है और एक उच्च-स्तरीय रणनीति बनाता है
- नेविगेटर एजेंट वर्तमान पृष्ठ DOM की जाँच करता है और अगली कार्रवाई तय करता है
- सामग्री स्क्रिप्ट कार्रवाई निष्पादित करती है (क्लिक, टाइप, निकालना, आदि)
- कार्य पूर्ण होने या विफल होने तक लूप जारी रहता है
एजेंट सिस्टम
एक्सटेंशन Nanobrowser से प्रेरित दो-एजेंट आर्किटेक्चर का उपयोग करता है:
- PlannerAgent (योजनाकार एजेंट): सामरिक योजना, चरण-दर-चरण दृष्टिकोण बनाता है
- NavigatorAgent (नेविगेटर एजेंट): सामरिक निष्पादन, पृष्ठ स्थिति के आधार पर विशिष्ट क्रियाएँ चुनता है
दोनों एजेंट संरचित JSON आउटपुट करते हैं जिसे पार्स और निष्पादित किया जाता है।
मॉडल कॉन्फ़िगरेशन
डिफ़ॉल्ट मॉडल: Qwen2.5-1.5B-Instruct-q4f16_1-MLC (~1GB)
वैकल्पिक मॉडल (src/shared/constants.ts में कॉन्फ़िगर किए गए):
Phi-3.5-mini-instruct-q4f16_1-MLC (~2GB, बेहतर तर्क)
Llama-3.2-1B-Instruct-q4f16_1-MLC (~0.7GB, छोटा)
समस्या निवारण
WebGPU समर्थित नहीं
- Chrome को संस्करण 124 या बाद में अपडेट करें
chrome://gpu की जाँच करें WebGPU स्थिति सत्यापित करने के लिए
- कुछ GPU WebGPU का समर्थन नहीं कर सकते
मॉडल लोड होने में विफल
- सुनिश्चित करें कि आपके पास पर्याप्त डिस्क स्थान है (~2GB खाली)
- त्रुटियों के लिए ब्राउज़र कंसोल की जाँच करें
- एक्सटेंशन का स्टोरेज साफ़ करके पुनः लोड करने का प्रयास करें
क्रियाएँ निष्पादित नहीं हो रहीं
- कुछ पृष्ठ सामग्री स्क्रिप्ट को ब्लॉक करते हैं (chrome://, एक्सटेंशन पृष्ठ)
- wikipedia.org जैसे नियमित वेबपेज पर प्रयास करें
Chrome अपडेट के बाद एक्सटेंशन काम नहीं कर रहा
chrome://extensions पर जाएँ
- एक्सटेंशन पर रीलोड बटन पर क्लिक करें
सीमाएँ
- POC दायरा: यह एक प्रूफ-ऑफ-कॉन्सेप्ट है, उत्पादन सॉफ़्टवेयर नहीं
- कोई विज़न नहीं: केवल टेक्स्ट-आधारित DOM विश्लेषण (स्क्रीनशॉट समझ नहीं)
- एकल टैब: केवल वर्तमान सक्रिय टैब के साथ काम करता है
- बुनियादी क्रियाएँ: नेविगेट, क्लिक, टाइप, निकालना, स्क्रॉल, प्रतीक्षा का समर्थन करता है
- मॉडल आकार: छोटे मॉडल जटिल कार्यों में संघर्ष कर सकते हैं
तकनीकी स्टैक
- WebLLM: WebGPU के साथ डिवाइस पर LLM अनुमान
- React: पॉपअप UI
- TypeScript: प्रकार-सुरक्षित विकास
- Vite + CRXJS: Chrome एक्सटेंशन बंडलिंग
- Chrome Extension Manifest V3: आधुनिक एक्सटेंशन आर्किटेक्चर
श्रेय
यह प्रोजेक्ट निम्नलिखित से प्रेरित है:
- Nanobrowser - मल्टी-एजेंट वेब ऑटोमेशन (MIT लाइसेंस)
- WebLLM - ब्राउज़र में LLM अनुमान (Apache-2.0 लाइसेंस)
निर्भरता लाइसेंस
| पैकेज | लाइसेंस |
|---|
| @mlc-ai/web-llm | Apache-2.0 |
| React | MIT |
| Vite | MIT |
| @crxjs/vite-plugin | MIT |
| TypeScript |
लाइसेंस
MIT लाइसेंस - विवरण के लिए LICENSE फ़ाइल देखें।