Baidu ने एक ही पास में किसी भी लंबाई के दस्तावेज़ों को पार्स करने के लिए अनलिमिटेड OCR 2 मॉडल जारी किया
और पढ़ें
Pandaily
pandaily.com

Baidu ने एक ही पास में किसी भी लंबाई के दस्तावेज़ों को पार्स करने के लिए अनलिमिटेड OCR 2 मॉडल जारी किया

Baidu कंपनी ने दस्तावेज़ विश्लेषण के लिए अपने मॉडल का दूसरा संस्करण, अनलिमिटेड OCR 2, प्रस्तुत किया और जनता के लिए खोल दिया है। इस विकास का उद्देश्य किसी भी संख्या के पृष्ठों वाले दस्तावेज़ों को एक निरंतर पास में पढ़ने की क्षमता प्रदान करना है।

मॉडल का कोड और वज़न MIT लाइसेंस के तहत GitHub और Hugging Face प्लेटफॉर्म पर उपलब्ध हैं। इसके अतिरिक्त, यह मॉडल Baidu AI Cloud और Baidu AI Open Platform के माध्यम से भी प्रदान किया जाता है।

जून में जारी किया गया पहला अनलिमिटेड-OCR संस्करण, अलग-अलग पृष्ठों से लेकर दर्जनों क्रमिक पृष्ठों तक पार्सिंग क्षमताओं का विस्तार करने के लिए लिंक पर आधारित स्लाइडिंग विंडो अटेंशन तंत्र का उपयोग करता था। दूसरे संस्करण में इस तंत्र को स्पार्स रेफरेंस स्लाइडिंग विंडो अटेंशन, या SR-SWA से बदल दिया गया है।

Baidu नए दृष्टिकोण की तुलना इस बात से करती है कि कोई व्यक्ति किताब कैसे कॉपी करता है: यह वर्तमान पृष्ठ पर ध्यान केंद्रित करता है और केवल तभी पिछले पृष्ठों का संदर्भ लेता है जब क्रॉस-पेज जानकारी की आवश्यकता होती है। व्यवहार में, एक विशेष पेज गेट पहले प्रत्येक अनुरोध के दृश्य लिंक को पूरे दस्तावेज़ से प्रासंगिक पृष्ठों तक संकुचित करता है, साथ ही पृष्ठों के बीच की स्थिति का अनुकरण भी करता है। फिर दीर्घकालिक निर्भरताओं को कैप्चर करने के लिए सबसे अधिक मूल्यांकित दृश्य टोकन समूहों को आकर्षित किया जाता है।

परियोजना के विवरण के अनुसार, SR-SWA अल्ट्रा-लंबे अनुक्रमों से टेक्स्टुअल-विज़ुअल अटेंशन को एक निश्चित कार्यशील लिंक सेट, जैसे 512 टोकन, में संपीड़ित करता है। यह सुनिश्चित करता है कि प्रत्येक चरण पर डिकोडिंग विलंबता और मेमोरी खपत दस्तावेज़ की लंबाई की परवाह किए बिना लगभग स्थिर बनी रहे। अनलिमिटेड-होराइजन डीकोडिंग नामक तकनीक के साथ मिलकर, यह मॉडल को सीमित संदर्भ विंडो के भीतर बहुत लंबे इनपुट डेटा को संसाधित करने की अनुमति देता है।

अपने स्वयं के उदाहरण में, Baidu ने प्रदर्शित किया कि मॉडल एक सत्र में 3600 से अधिक पृष्ठों वाली हैरी पॉटर की सभी सात किताबों को संसाधित करने में सक्षम था।

प्रस्तुत आँकड़े कंपनी के आंतरिक परीक्षणों पर आधारित हैं। Baidu ने मल्टी-पेज पार्सिंग के लिए बेंचमार्क MPDocBench पर 84.6 और 100 पृष्ठों के दस्तावेज़ों के लिए बेंचमार्क MarathonDocBench पर 77.1 अंक प्राप्त करने की सूचना दी, जिसे Baidu ने मॉडल के साथ Hugging Face पर प्रकाशित किया है। कंपनी का दावा है कि दोनों परिणाम एंड-टू-एंड पार्सिंग के लिए अत्याधुनिक हैं और उन कई सामान्य फ्लैश-टियर स्तर के मॉडलों से बेहतर हैं जिनका उन्होंने परीक्षण किया है।

100 पृष्ठों के परिदृश्य में, Baidu की रिपोर्ट इंगित करती है कि SR-SWA प्रत्येक चरण को पूर्ण अटेंशन की तुलना में सात गुना तेजी से और पिछले R-SWA संरचना की तुलना में 5.6 गुना तेजी से डिकोड करता है। लेख लिखे जाने के समय स्वतंत्र मूल्यांकन अभी तक प्रकाशित नहीं हुए हैं।

पहले संस्करण ने डेवलपर्स के बीच काफी रुचि जगाई। Baidu बताती है कि मॉडल को Hugging Face पर 10 मिलियन से अधिक डाउनलोड और GitHub पर 28,500 स्टार मिले हैं। वर्तमान में, मॉडल तेज़ परीक्षणों के लिए ट्रांसफॉर्मर्स और सेवा के लिए SGLang का उपयोग करके काम कर रहा है। Baidu 12 नवंबर को होने वाले Baidu World 2026 कार्यक्रम में मॉडल के बारे में अधिक जानकारी प्रस्तुत करने की योजना बना रही है।

समान कहानियाँ

Baidu Health ने स्वास्थ्य के लिए वीडियो कैमरा और डॉक्टर चयन प्रणाली जोड़कर अपने एआई सेवाओं का विस्तार किया
और पढ़ें
pandaily.com

Baidu Health ने स्वास्थ्य के लिए वीडियो कैमरा और डॉक्टर चयन प्रणाली जोड़कर अपने एआई सेवाओं का विस्तार किया

Baidu Health ने एक नया मेडिकल कैमरा और सुविधाओं का एक सेट पेश करके अपने स्वास्थ्य एआई सहायक को अपडेट किया है जो आर्टिफिशियल इंटेलिजेंस के जवाबों को वास्तविक डॉक्टरों से जोड़ता है। कंपनी ने बताया कि इसकी एआई सेवाओं के 50 मिलियन से अधिक सक्रिय मासिक उपयोगकर्ता हैं, जिसे कंपनी का दावा है कि इस क्षेत्र में सबसे बड़ा है। यह जानकारी 24 अक्टूबर को लीफोन और चाइना नेशनल रेडियो के स्रोतों के अनुसार जारी की गई।

मेडिकल कैमरा टेक्स्ट इनपुट, बोलियों में भाषण और तस्वीरें स्वीकार करने में सक्षम है। Baidu का दावा है कि यह चीन में पहला मामला है जहां उपयोगकर्ता वीडियो अपलोड कर सकते हैं या रिकॉर्डिंग के दौरान बात कर सकते हैं। इस सुविधा का उद्देश्य लोगों को उन लक्षणों का वर्णन करने में मदद करना है जिन्हें शब्दों में व्यक्त करना मुश्किल होता है, जैसे त्वचा में परिवर्तन, गति की समस्याएं या कई लक्षणों की स्थिति। Baidu बताता है कि पहचान तीन मिलियन पेशेवर मल्टीमॉडल छवियों और 100 मिलियन से अधिक नैदानिक डेटा पर प्रशिक्षित थी, जबकि चिकित्सक लगातार सुधार कर रहे हैं।

इसके अलावा, उपयोगकर्ता प्रयोगशाला रिपोर्ट की तस्वीरें ले सकते हैं; Baidu ने बताया कि पिछले एक साल में इन रिपोर्टों को 98% से अधिक सटीकता के साथ 27 मिलियन से अधिक बार पढ़ा गया है।

डॉक्टर चयन सेवाओं का विस्तार

अपडेट का दूसरा भाग चिकित्सा सेवाओं का एक मैट्रिक्स प्रस्तुत करता है। Baidu के आंकड़ों के अनुसार, प्रमुख अस्पतालों से 150,000 से अधिक डॉक्टर ऑनलाइन परामर्श कक्ष में चौबीसों घंटे उपलब्ध हैं, जिनका जवाब एक मिनट तक का होता है। आर्टिफिशियल इंटेलिजेंस पहले उपयोगकर्ता के लक्षणों, विश्लेषण के परिणामों और चिकित्सा इतिहास को संरचित करता है, जिसके बाद इसे उपयुक्त विशेषज्ञ के साथ मिलाया जाता है जो स्पष्टीकरण वाले प्रश्न पूछता है और निदान करता है। अपॉइंटमेंट सेवा उपयोगकर्ताओं को 30 दिनों तक आगे अतिरिक्त स्लॉट बुक करने की अनुमति देती है; Baidu इंगित करता है कि 50,000 से अधिक डॉक्टर प्रतिदिन 120,000 से अधिक अतिरिक्त स्लॉट प्रदान करते हैं, और लगभग 6 मिलियन नियुक्तियाँ पहले ही निर्धारित की जा चुकी हैं।

Baidu ने कई बार इस बात पर जोर दिया है कि आर्टिफिशियल इंटेलिजेंस निदान का स्थान नहीं लेता है। Baidu Health के महाप्रबंधक, यांग मिनलू ने कहा कि डॉक्टरों के पास निर्णय लेने का अधिकार बना रहता है, और एआई को नेता के बजाय सहायक के रूप में कार्य करना चाहिए। चीनी इंजीनियरिंग अकादमी के अकादमिक और चीनी कैंसर विरोधी संघ के अध्यक्ष, फैन दाइमिन ने उल्लेख किया कि एआई चिकित्सा की पहुंच का विस्तार कर सकता है, लेकिन डॉक्टर के निर्णय को प्रतिस्थापित नहीं कर सकता है।

कंपनी ने अपने डॉक्टरों के संसाधनों और एआई क्षमताओं को एमसीपी, एपीआई और एच5 के माध्यम से इंटीग्रेशन के माध्यम से क्रोनिक बीमारी उपचार ऐप्स, चिकित्सा उपकरण निर्माताओं और ऑनलाइन फार्मेसियों जैसे भागीदारों को मुफ्त में प्रदान करने के लिए एक ओपन प्रोग्राम भी शुरू किया है। उपयोगकर्ता और सटीकता से संबंधित सभी डेटा Baidu के स्वामित्व में हैं।

SenseTime ने एजेंट आउटपुट के लिए प्रीफिल/डिकोड विभाजन के साथ क्लस्टर पेश किए
और पढ़ें
pandaily.com

SenseTime ने एजेंट आउटपुट के लिए प्रीफिल/डिकोड विभाजन के साथ क्लस्टर पेश किए

16 अक्टूबर को शेंज़ेन में CSDI के 10वें शिखर सम्मेलन में, SenseTime के उपाध्यक्ष और तकनीकी निदेशक SenseCore, शुआन शानमिन ने बताया कि कंपनी एजेंट युग के लिए आउटपुट बुनियादी ढांचे को कैसे पुनर्गठित कर रही है। इस नए युग में, मल्टी-एजेंट वर्कफ़्लो और निरंतर निगरानी के बिना किए जाने वाले लंबे कार्यों के कारण टोकन की मांग चैटबॉट की क्षमताओं से काफी अधिक है।

प्रस्तुति का मुख्य ध्यान डेटा सेंटर में त्वरक की संख्या पर नहीं था, बल्कि इस बात पर था कि यह केंद्र लागत और सेवा स्तर की निर्धारित सीमाओं के भीतर लगातार उच्च गुणवत्ता वाले टोकन कैसे उत्पन्न कर सकता है।

SenseCore समाधान उनके लिंगानग स्थित AIDC में 10,000 GPU के पैमाने पर विषम क्लस्टरों के भीतर प्रीफिल और डिकोड (PD) प्रक्रियाओं के विभाजन पर आधारित है। प्रीफिल प्रक्रिया इनपुट टोकन को संसाधित करती है और गणनात्मक रूप से गहन होती है, जबकि डिकोड आउटपुट टोकन उत्पन्न करता है, जो लगातार संदर्भ कैश से संपर्क करता है और उच्च मेमोरी बैंडविड्थ की मांग करता है।

SenseCore आर्किटेक्चर में, घरेलू त्वरक प्रीफिल करने पर केंद्रित हैं, जबकि उच्च प्रदर्शन वाले GPU डिकोड के लिए जिम्मेदार हैं। ये चरण KV कैश चैनलों के माध्यम से स्थिति का आदान-प्रदान करते हैं, जो एक ही क्लस्टर के भीतर 800G, 400G और 200G की मिश्रित फैक्ट्रियों को कवर करते हैं।

यह विभाजन एक परिचालन जोखिम पैदा करता है: कुछ कॉन्फ़िगरेशन में, मध्यम या निम्न-स्तरीय तीन से पचास प्रीफिल नोड्स एक डिकोड नोड को सेवा दे सकते हैं, जिसका अर्थ है कि डिकोड नोड की विफलता बड़ी संख्या में प्रीफिल नोड्स को रोक सकती है। इस जोखिम को कम करने के लिए, SenseCore त्वरित स्विचिंग के लिए प्रीफिल पूल में उच्च श्रेणी के कार्ड का एक छोटा रिजर्व बनाए रखता है, और नोड्स को लोड के आधार पर प्रीफिल और डिकोड दोनों भूमिकाओं को गतिशील रूप से बदलने की अनुमति देता है।

एक परीक्षण परिदृश्य के दौरान, जिसमें मूल कॉन्फ़िगरेशन के समान संख्या में प्रमुख उच्च-प्रदर्शन GPU का उपयोग किया गया था, कंपनी ने विषम PD शेड्यूलिंग को लागू करने के बाद कुल टोकन थ्रूपुट में लगभग पांच गुना वृद्धि की सूचना दी। इसके अलावा, कंपनी क्रॉस-डोमेन PD की संभावना का अध्ययन कर रही है, जिसमें प्रीफिल कार्य को क्षेत्रीय मध्यम-स्तरीय क्षमताओं पर और डिकोड कार्य को उच्च बैंडविड्थ वाले दूरस्थ क्लस्टरों पर निर्देशित किया जाता है।

यह संदर्भ में दस लाख टोकन के लिए KV कैश आकार में कमी के मद्देनजर प्रासंगिक हो जाता है - यह कुछ मॉडलों पर लगभग 100 जीबी से घटकर लगभग 1 जीबी हो जाता है, साथ ही डिकोड प्रक्रिया के भीतर अटेंशन/FFN के विभाजन के कारण भी।

SenseCore का दावा है कि उनका प्लेटफॉर्म वर्तमान में प्रतिदिन लगभग 6 ट्रिलियन टोकन संसाधित करता है और 2026 की चौथी तिमाही तक प्रतिदिन 10 ट्रिलियन टोकन तक पहुंचने का लक्ष्य रखता है, जिसमें प्रति वर्ष कुल टोकन वॉल्यूम में लगभग 25 गुना वृद्धि का अनुमान है। यह ध्यान रखना महत्वपूर्ण है कि ये थ्रूपुट और गति वृद्धि के आंकड़े कंपनी के दावे हैं। प्रस्तुति के दौरान इस बात पर जोर दिया गया कि घरेलू चिप्स डिकोड के लिए उपयोग किए जाने वाले उच्च प्रदर्शन वाले GPU को पूरी तरह से बदलने के बजाय प्रीफिल और मिश्रित आउटपुट कार्यों में एक बड़ा हिस्सा लेने के लिए डिज़ाइन किए गए हैं।

लोकप्रिय