ब्लॉग पर वापस
10 मिनट पढ़ें

LiteRT.js: ब्राउज़र में स्थानीय AI, एक साफ़ विकल्प के साथ

LiteRT.js WebAssembly और उपलब्ध त्वरण से अनुमान ब्राउज़र में लाता है। भरोसेमंद डिज़ाइन क्षमताएँ जाँचता है, डिवाइस मापता है और एक विकल्प घोषित करता है।

  • #LiteRT.js
  • #ब्राउज़र में AI
  • #WebGPU
  • #निजता
एक AI मॉडल ब्राउज़र, CPU, GPU और NPU के बीच स्थानीय रूप से चलता हुआ
साझा करें

संक्षिप्त उत्तर

LiteRT.js से संगत मॉडल WebAssembly और WebGPU जैसे रास्तों के ज़रिए ब्राउज़र में चल सकते हैं। स्थानीय अनुमान इनपुट को सर्वर भेजने से बचा सकता है, पर वह न निजता की गारंटी है, न प्रदर्शन की; क्षमताएँ जाँचें, असली डिवाइस मापें और एक समझ में आने वाला विकल्प दें।

भरोसेमंद स्थानीय अनुमान के चार फ़ैसले

अनुभव मॉडल चलने से शुरू नहीं होता। पहले जाँचें, फिर लोड करें, चलना मापें और ज़रूरत पर विकल्प चालू करें।

  1. जाँचना

    मॉडल डाउनलोड करने से पहले इंटरफ़ेस, मेमोरी और ज़रूरी शर्तें देखें।

  2. लोड करना

    मौजूदा डिवाइस के अनुकूल मॉडल और रास्ता चुनें।

  3. चलाना

    प्रतिनिधि इनपुट से समय, मेमोरी और गुणवत्ता मापें।

  4. विकल्प

    सीमा बताएँ और दूसरा रास्ता दें, कोई डेटा-हस्तांतरण छिपाए बिना।

LiteRT.js ब्राउज़र में कृत्रिम बुद्धिमत्ता (AI) का अनुमान चलाने के लिए Google का इंटरफ़ेस है। यह केंद्रीय प्रसंस्करण इकाई (CPU) पर WebAssembly और संगत त्वरण मौजूद होने पर WebGPU इस्तेमाल कर सकता है। डिज़ाइन को शुरू से ही उन डिवाइसों का ध्यान रखना चाहिए जो पसंदीदा रास्ता पूरा नहीं करते।

हमारा उदाहरण है अपलोड से पहले किसी फ़ोटो की गुणवत्ता आँकना। स्थानीय मॉडल धुँधलापन या कम रोशनी पकड़ेगा और एक सुझाव दिखाएगा। अगर ब्राउज़र मॉडल नहीं चला पाता, तो ऐप सीमा बताएगा और दूसरा रास्ता देगा।

LiteRT.js मॉडल को डिवाइस तक लाता है

15 जुलाई 2026 तक Google ने LiteRT.js को संगत मॉडल लोड और चलाने वाले एक वेब रनटाइम के रूप में दर्ज किया था। शुरुआती गाइड लोड और कंपाइल का इंटरफ़ेस और WebGPU से तेज़ किया गया रास्ता दिखाती है। असली संगतता ब्राउज़र, हार्डवेयर और मॉडल पर निर्भर है।

डिवाइस पर चलाने से अनुमान के दौरान नेटवर्क की आवाजाही घट सकती है। जब ऐप और मॉडल पहले से मौजूद हों, तो कनेक्शन अस्थिर होने पर भी जवाब मिल सकते हैं। इससे डाउनलोड, कंपाइल और मेमोरी की लागत ख़त्म नहीं होती।

चुनने से पहले तय करें कि यह फ़ोटो वाले मामले में क्या जोड़ता है। अपलोड से पहले तुरंत मिली चेतावनी एक बेकार अपलोड बचा सकती है और छवि को सर्वर से बाहर रख सकती है। यह फ़ायदा तभी है जब पेज के बाक़ी हिस्से भी वह फ़ोटो न भेजें।

जाँच डाउनलोड से पहले होती है

बड़ा मॉडल डाउनलोड करने से पहले क्षमताएँ जाँचें। ज़रूरी इंटरफ़ेस पहचानें, जहाँ संभव हो उपलब्ध मेमोरी दर्ज करें और डिवाइस का प्रकार देखें। रास्ता तय होने तक इंटरफ़ेस उपयोग योग्य बना रहे।

फ़ोटो के लिए पहले चयनकर्ता और एक छोटा विवरण दिखाएँ। अगर ब्राउज़र शर्तें पूरी करता है, तो दिखती हुई प्रगति के साथ मॉडल लोड शुरू करें। नहीं तो एक वैकल्पिक दूरस्थ आकलन दें या बिना विश्लेषण आगे बढ़ने दें।

केवल ब्राउज़र के नाम पर आधारित जाँच न करें। एक ही परिवार में संस्करण, ड्राइवर और नीतियाँ बदल सकती हैं। एक क्षमता-परीक्षण चलाएँ और आरंभ की त्रुटि पकड़ें।

लोडिंग को साफ़ स्थितियाँ और सीमाएँ चाहिए

मॉडल रास्ते में बाइट, शुरू होने का समय और मेमोरी जोड़ता है। बताएँ कि स्थानीय विश्लेषण तैयार हो रहा है, और डाउनलोड लंबा खिंचे तो रद्द करने दें। कैश तभी करें जब उत्पाद की नीति और उपलब्ध जगह इसकी अनुमति दें।

भरी हुई प्रगति-पट्टी यह सिद्ध नहीं करती कि मॉडल तैयार है। डाउनलोड, कंपाइल और पहले अनुमान को अलग रखें। इस उदाहरण में «फ़ोटो जाँचें» तभी चालू करें जब पुष्टि हो जाए कि स्थानीय रास्ता एक परीक्षण इनपुट का जवाब देता है।

अधिकतम समय और एक रिकवरी तय करें। कंपाइल विफल हो तो संसाधन छोड़ें और विकल्प चालू करें। चुपचाप चलता दोबारा-कोशिश का चक्र बैटरी खाता है और व्यक्ति को कोई फ़ैसला नहीं देता।

गुणवत्ता प्रतिनिधि तस्वीरों से मापें

अच्छी, धुँधली, कम रोशनी वाली और अलग-अलग आकार की परीक्षण तस्वीरें तैयार करें। मॉडल के नतीजे को समीक्षित वर्गीकरण से मिलाएँ और अहम ग़लतियाँ दर्ज करें। एक ही फ़ोटो से किया गया प्रदर्शन व्यवहार आँकने नहीं देता।

पहले नतीजे तक का समय, बाद का विलंब, मेमोरी और लंबे सत्रों में महसूस होने वाला ताप भी मापें। मध्यम श्रेणी के फ़ोन, बिना WebGPU वाला एक डिवाइस और प्रतिनिधि ब्राउज़र शामिल करें। कंपनी के बेंचमार्क संदर्भ हैं, आपके उत्पाद की स्वीकृति नहीं।

अगर विश्लेषण कहे कि फ़ोटो धुँधली है, तो अगला क़दम बताएँ: डिवाइस स्थिर रखें, रोशनी सुधारें या दोबारा खींचें। बिना संदर्भ का स्कोर मदद नहीं करता। प्रॉम्प्ट गाइड यही «जाँचने योग्य नतीजा» सिद्धांत लागू करती है।

निजता पूरे रास्ते पर निर्भर है

स्थानीय अनुमान बताता है कि मॉडल कहाँ चलता है, यह नहीं कि ऐप और क्या-क्या करता है। एनालिटिक्स, त्रुटि लॉग, भंडारण, थंबनेल या बैकअप सेवाएँ डेटा भेज सकती हैं। यह कहने से पहले कि छवि डिवाइस पर ही रहती है, हर नेटवर्क निकास दर्ज करें।

चयन, विश्लेषण और रद्द करने—तीनों के दौरान नेटवर्क देखें। दूरस्थ विकल्प के साथ जाँच दोहराएँ और अपलोड से पहले सहमति माँगें। पाठ में दोनों रास्ते साफ़ अलग दिखने चाहिए।

छवि, उससे निकाली गई सामग्री या ग़ैर-ज़रूरी पहचानकर्ता लॉग न करें। अगर मापन चाहिए, तो समय और स्थिति-कोड मापें, निजी डेटा के बिना। विकल्प ठुकराने के बाद भी व्यक्ति काम जारी रख सके।

विकल्प भी उत्पाद का हिस्सा है

वैकल्पिक रास्ता कोई शर्मनाक ग़लती नहीं जिसे छिपाया जाए। बताएँ कि इस डिवाइस पर स्थानीय विश्लेषण उपलब्ध नहीं और ठोस विकल्प दें: बिना आकलन जारी रखना, सहमति के साथ सर्वर इस्तेमाल करना, या दूसरी छवि आज़माना। जब तक सुरक्षित हो, मुख्य सुविधा बनी रहे।

दूरस्थ विकल्प को भंडारण, पहुँच और मिटाने के अपने नियम चाहिए। उसे पृष्ठभूमि में चुपचाप चालू न करें। वाइब कोडिंग का ज़िम्मेदार तरीक़ा मुख्य और घटा हुआ—दोनों रास्ते जाँचने को कहता है।

दर्ज करें कि कितने सत्र किस रास्ते पर गए और स्थानीय रास्ता क्यों विफल हुआ। यह प्रमाण तय करने देता है कि मॉडल बदलना है, छोटा करना है या सुविधा हटानी है। बिना तारीख़ और प्रतिनिधि नमूने के किसी प्रतिशत को वादा न बनाएँ।

सीमाएँ डाउनलोड, मेमोरी और संगतता में दिखती हैं

कोई मॉडल मोबाइल कनेक्शन के लिए बहुत बड़ा हो सकता है या कई अनुमानों में मेमोरी ख़त्म कर सकता है। WebGPU मौजूद होकर भी किसी ऑपरेशन को कंपाइल करने में विफल हो सकता है। दोनों स्थितियाँ पकड़ें और इंटरफ़ेस बहाल करें।

गुणवत्ता उन छवि-समूहों पर भी बदल सकती है जो मूल्यांकन में नहीं थे। अलग रोशनी, डिवाइस और परिस्थितियाँ जाँचें। ग़लत स्थानीय नतीजा भी ग़लत नतीजा ही है।

आख़िर में, ब्राउज़र संसाधन बाक़ी पेज से साझा करता है। एक साथ कई अनुमान चलाने से बचें और अनुपयोगी टेंसर या सत्र छोड़ दें। एक सहज इंटरफ़ेस उतना ही मायने रखता है जितना किसी एक अनुमान का आँकड़ा।

प्रकाशन से पहले अनुभव जाँचें

इन बिंदुओं को कई डिवाइसों पर देखें। हर उत्तर किसी माप, नेटवर्क जाँच या दिखने वाले व्यवहार पर टिका हो।

  • ऐप मॉडल डाउनलोड करने से पहले क्षमताएँ जाँचता है।
  • लोडिंग, कंपाइल, चलना और त्रुटि—सबकी समझ में आने वाली स्थितियाँ हैं।
  • परीक्षण तस्वीरें अलग गुणवत्ता, आकार और डिवाइस कवर करती हैं।
  • मापन सहित डेटा का पूरा रास्ता दर्ज है।
  • दूरस्थ विकल्प के लिए स्पष्ट जानकारी और सहमति ज़रूरी है।
  • विफलता संसाधन छोड़ती है और सुरक्षित ढंग से आगे बढ़ने देती है।

LiteRT.js स्थानीय AI के लिए एक उपयोगी रास्ता खोलता है, पर भरोसेमंद संरचना उस डिवाइस को भी शामिल करती है जो इसे नहीं चला सकता। जाँचें, लोड करें, चलाएँ, मापें और एक घोषित विकल्प चालू करें। यही क्रम एक प्रदर्शन को टिकाऊ सुविधा बना देता है।

मिनी क्विज़

पूरा स्थानीय रास्ता डिज़ाइन करें

वह विकल्प चुनें जो डेटा, क्षमताएँ और सीमाएँ दिखती हुई रखे।

1 / 3

डिवाइस मॉडल लोड नहीं कर पाता। ऐप को क्या करना चाहिए?
समाधान दिखाएँ
  1. 1. डिवाइस मॉडल लोड नहीं कर पाता। ऐप को क्या करना चाहिए?

    सही उत्तर: सीमा बताना और सहमति के साथ एक विकल्प देना।

    घोषित विकल्प डेटा के रास्ते पर नियंत्रण बनाए रखता है और अस्पष्ट विफलता से बचाता है।

  2. 2. निजता के दावे को आप कैसे प्रमाणित करेंगे?

    सही उत्तर: अनुमान, एनालिटिक्स, लॉग और बाहरी कॉल दर्ज करके।

    निजता पूरे डेटा-प्रवाह पर निर्भर है, केवल इस पर नहीं कि मॉडल कहाँ चलता है।

  3. 3. कौन-सी जाँच लॉन्च के फ़ैसले के लिए सबसे उपयोगी है?

    सही उत्तर: असली परीक्षण-तस्वीरों के साथ प्रतिनिधि डिवाइस मापना।

    डिवाइसों की एक सूची डाउनलोड, मेमोरी, गुणवत्ता और विकल्प की आवृत्ति दिखा देती है।

स्रोत

  1. LiteRT.js: Google's high-performance web AI inference runtimeGoogle for Developers · देखा गया 2026-07-15
  2. Get started with LiteRT.jsGoogle AI for Developers · देखा गया 2026-07-15

अक्सर पूछे जाने वाले प्रश्न

क्या LiteRT.js बिना इंटरनेट काम कर सकता है?

जब ऐप, मॉडल और संसाधन पहले से स्थानीय रूप से उपलब्ध हों, तो अनुमान बिना नेटवर्क चल सकता है। व्यवहार कैश रणनीति और पेज की अन्य सेवाओं पर निर्भर करता है।

क्या स्थानीय AI निजता की गारंटी देती है?

नहीं। वह इनपुट को अनुमान-सर्वर तक भेजने से बचा सकती है, पर एनालिटिक्स, लॉग, छवि अपलोड या सहायक इंटरफ़ेस अब भी डेटा भेज सकते हैं।

क्या WebGPU हर डिवाइस पर चलता है?

नहीं। संगतता और प्रदर्शन अलग-अलग हैं। क्षमताएँ जाँचें और एक CPU रास्ता या एक बताया हुआ दूरस्थ विकल्प तैयार रखें।

प्रकाशन से पहले क्या मापना चाहिए?

डाउनलोड का आकार, शुरू होने का समय, प्रति अनुमान विलंब, मेमोरी, नतीजे की गुणवत्ता, खपत और विकल्प के उपयोग की दर।