यूनिसोक ने फ्लैश मेमोरी वाले स्मार्टफोन के लिए मेमोरी प्रबंधन हेतु UniSwap Ultra Engine प्रस्तुत किया
और पढ़ें
Pandaily
pandaily.com

यूनिसोक ने फ्लैश मेमोरी वाले स्मार्टफोन के लिए मेमोरी प्रबंधन हेतु UniSwap Ultra Engine प्रस्तुत किया

यूनिसोक कंपनी ने UniSwap Ultra Engine - स्मार्टफोन के लिए एक मेमोरी प्रबंधन प्रणाली की घोषणा की, जो चिप स्तर पर शेड्यूलिंग, संपीड़ित मेमोरी और फ्लैश मेमोरी पर आधारित पेजिंग तंत्र को एकीकृत करती है। यह तकनीक 20 नवंबर को प्रस्तुत की गई थी, और अगले दिन चीनी रिपोर्टों में इसकी वास्तुकला और प्रयोगशाला परिणामों का विस्तार से वर्णन किया गया था।

यह तंत्र भौतिक रैम (RAM) सीमित होने पर ऐप्स के लिए उपलब्ध मेमोरी की मात्रा का विस्तार करने हेतु UFS स्टोरेज का उपयोग करता है। यह ध्यान रखना महत्वपूर्ण है कि यह वर्चुअल मेमोरी की तकनीक है, न कि अतिरिक्त DRAM की स्थापना। उदाहरण के लिए, 4 जीबी भौतिक रैम वाला स्मार्टफोन केवल पेजिंग के लिए कुछ स्टोरेज का उपयोग करके स्वचालित रूप से 6 जीबी भौतिक रैम वाले डिवाइस में परिवर्तित नहीं हो जाएगा।

यूनिसोक के बयानों के अनुसार, इस योजना का उपयोग करने वाला 4 जीबी स्मार्टफोन पारंपरिक 6 जीबी मॉडल के समान दैनिक सुचारू संचालन प्राप्त कर सकता है। इसके अलावा, कंपनी सिस्टम विलंबता में 20% की कमी और पृष्ठभूमि में ऐप्स को बनाए रखने में 20% सुधार की सूचना देती है। ये आंकड़े सीधे यूनिसोक के प्रयोगशाला परीक्षणों के कारण हैं, न कि उपकरणों के स्वतंत्र परीक्षणों के कारण।

इंजन की संरचना और कार्य सिद्धांत

इस प्रणाली का वर्णन तीन स्तरों में किया गया है। सिस्टम ऑन चिप (SoC) स्तर पर, सीपीयू और डीडीआर गुणवत्ता सेवा नियंत्रक वर्कलोड परिवर्तनों के जवाब में थ्रूपुट, आवृत्ति और एक्सेस समय को नियंत्रित करते हैं। मेमोरी और स्टोरेज के बीच डेटा स्थानांतरित करते समय विलंबता को कम करने के लिए UFS नियंत्रक अनुकूलन, भौतिक इंटरफ़ेस अनुकूलन, प्राथमिकता पहुंच और डेटा प्रीफेचिंग का उपयोग किया जाता है।

सॉफ्टवेयर स्तर बैकग्राउंड ऐप्स द्वारा कब्जा की गई मेमोरी के संपीड़न और इस संपीड़ित मात्रा को ZRAM और UFS के बीच गतिशील रूप से वितरित करने के लिए जिम्मेदार है। यह ऐप्स के जीवन चक्र और मेमोरी रिलीज प्रक्रिया को भी प्रबंधित करता है। इसका उद्देश्य उपयोगकर्ताओं के मैसेजिंग ऐप, वीडियो, गेम और अन्य कार्यों के बीच स्विच करते समय ऐप्स के पूर्ण रीबूट की आवश्यकता को कम करना है।

तीसरा स्तर फ्लैश मेमोरी की विशेषताओं, फर्मवेयर और फ़ाइल सिस्टम समन्वय के संबंध में स्टोरेज निर्माताओं के साथ सहयोग को शामिल करता है। यूनिसोक का दावा है कि व्यक्तिगत रूप से विकसित UFS समाधान पेजिंग के बहु-ट्रैफिक के दौरान सहनशक्ति और विलंबता की आवश्यकताओं को ध्यान में रखते हैं। हालांकि, घोषणा में सभी प्रकार के स्टोरेज के लिए समान लाभ की पुष्टि करने वाले दीर्घायु के स्वतंत्र माप शामिल नहीं हैं।

ये बयान मौजूदा मेमोरी और स्टोरेज संसाधनों के सामंजस्य से संबंधित हैं, न कि किसी नए डिवाइस के प्रस्तुतीकरण या फ्लैश मेमोरी द्वारा DRAM के भौतिक गुणों के अधिग्रहण के प्रमाण से। वास्तविक परिणाम एप्लिकेशन वर्कलोड के प्रकार, संपीड़न व्यवहार, स्टोरेज हार्डवेयर और डिवाइस एकीकरण पर निर्भर करेंगे। प्रस्तुत घोषणा उन फोन की पूरी सूची प्रदान नहीं करती है जो इस तकनीक का उपयोग करेंगे, और तीसरे पक्ष के तुलना के लिए पुनरुत्पादनीय प्रोटोकॉल प्रस्तावित नहीं करती है। विशिष्ट योगदान चिप और सॉफ्टवेयर के एकीकृत दृष्टिकोण में वर्णित है; प्रतिशत सुधार और अनुभव विक्रेता द्वारा बताए गए परिणाम बने रहते हैं।

समान कहानियाँ

Tencent ने तीन संस्करणों में Hy4 फ्लैश मॉडल के वज़न जारी किए
और पढ़ें
pandaily.com

Tencent ने तीन संस्करणों में Hy4 फ्लैश मॉडल के वज़न जारी किए

Tencent कंपनी ने Hy4 फ्लैश मॉडल के वज़न जारी किए हैं, जो 16 नवंबर को इस मॉडल के API की घोषणा के बाद उपलब्ध कराए गए थे। इस बारे में IT Home ने 18 नवंबर को जानकारी दी। यह अपडेट तैनाती योग्य चेकपॉइंट्स प्राप्त करने का अवसर प्रस्तुत करता है, न कि उन API विनिर्देशों और मूल्य निर्धारण का पुनरावलोकन, जिनका पहले Pandaily द्वारा उल्लेख किया गया था।

Tencent के आधिकारिक मॉडल कार्ड में तीन संस्करण सूचीबद्ध हैं: Hy4 फ्लैश, जो निर्देश ट्यूनिंग वाला मॉडल है; Hy4 फ्लैश-FP8, इसका निर्देश ट्यूनिंग वाला क्वांटाइज़्ड संस्करण; और Hy4 फ्लैश-बेस, एक पूर्व-प्रशिक्षित आधार मॉडल। आधार चेकपॉइंट चैट के लिए तैयार विकल्पों को बदलने के बजाय आगे के प्रशिक्षण के लिए है।

Pandaily ने Hugging Face पर तीनों आधिकारिक रिपॉजिटरी की जाँच की। वज़न इंडेक्स फ़ाइलें उपलब्ध शार्ड सूचियों को संदर्भित करती थीं, और बाइट रेंज के गुमनाम अनुरोध प्रत्येक संस्करण के लिए वज़न फ़ाइल डेटा लौटाते थे। इन जांचों ने डाउनलोड की उपलब्धता की पुष्टि की, लेकिन ये चेकपॉइंट्स के पूर्ण डाउनलोड या सफल आउटपुट परीक्षण नहीं हैं।

मानक चेकपॉइंट में लगभग 440.5 जीबी टेन्सर डेटा होता है, जबकि FP8 के लिए यह लगभग 287.1 जीबी होता है। ये आकार वज़न डेटा से संबंधित हैं, न कि जीपीयू मेमोरी की न्यूनतम आवश्यकताओं से। क्वांटाइजेशन भंडारण की मात्रा को कम करता है, लेकिन रिलीज़ को छोटे उपभोक्ता उपकरणों के लिए मॉडल में परिवर्तित नहीं करता है।

डिप्लॉयमेंट दस्तावेज़ीकरण इस रिलीज़ का एक महत्वपूर्ण हिस्सा है। Tencent vLLM और SGLang के लिए विशेष कंटेनर इमेज प्रदान करता है, जिसमें आठवे तरीके टेन्सरल पैरलेलिज्म के उपयोग के उदाहरण शामिल हैं। ट्रांसफॉर्मर्स के लिए निर्देश मॉडल के समर्थन के लिए अनुरोध करते हैं, यह मानकर नहीं चलते हैं कि मानक जारी पैकेज पहले से ही इस आर्किटेक्चर का समर्थन करता है।

vLLM रेसिपी को होस्ट रैम की भी आवश्यकता होती है, क्योंकि डिफ़ॉल्ट रूप से एंग्राम टेबल सीपी मेमोरी में डंप की जाती हैं। प्रारंभिक कॉन्फ़िगरेशन 8192 टोकन का संदर्भ लेता है; मॉडल द्वारा दावा की गई 1 मिलियन टोकन की क्षमता यह गारंटी नहीं देती है कि प्रत्येक हार्डवेयर कॉन्फ़िगरेशन इतनी लंबाई को संभाल पाएगा। प्रकाशित मेमोरी संकेत अनुमान हैं, न कि मापे गए न्यूनतम आवश्यकताएं।

चेकपॉइंट Tencent Hy 1.0 लाइसेंस का उपयोग करते हैं, जो स्पष्ट रूप से बताता है कि यह Apache 2.0 नहीं है, भले ही यह उससे व्युत्पन्न हो। खंड 10 उन सेवा ऑपरेटरों के लिए मॉडल के रूप में उपयोग के लिए एक अलग लिखित लाइसेंस की मांग करता है जिसका संचयी वैश्विक राजस्व लगातार 12 महीने की अवधि में 50 मिलियन अमेरिकी डॉलर से अधिक है, या मासिक 100 मिलियन से अधिक सक्रिय उपयोगकर्ताओं वाले उत्पाद या सेवा में मॉडल का उपयोग करने के लिए। आंतरिक उपयोग के लिए एक संकीर्ण रूप से परिभाषित अपवाद लागू होता है, जब मॉडल और उसके परिणाम तीसरे पक्ष को प्रदान नहीं किए जाते हैं।

इस प्रकार, इस रिलीज़ का सबसे अच्छा वर्णन घोषित Tencent शर्तों के अनुसार वज़न के लिए खुला है, न कि असीमित रूप से अनुमत ओपन सोर्स कोड के रूप में। Tencent ने बताया है कि बड़े Hy4 मॉडल के वज़न का जारी होना अभी भी तैयारी में है।

डी-रोबोटिक्स और इन्फिजिन्स एआई ने सनराइज चिप्स में ओपन रोबोटिक्स टूल एकीकृत किए
और पढ़ें
pandaily.com

डी-रोबोटिक्स और इन्फिजिन्स एआई ने सनराइज चिप्स में ओपन रोबोटिक्स टूल एकीकृत किए

डी-रोबोटिक्स और इन्फिजिन्स एआई ने एक समझौते की घोषणा की है जिसके तहत एम्बोडीड आर्टिफिशियल इंटेलिजेंस के लिए ओपन-सोर्स टूलकिट को डी-रोबोटिक्स के सनराइज चिप्स और इसके सॉफ्टवेयर प्लेटफॉर्म रोबोगो के साथ एकीकृत किया जाएगा। यह घोषणा दोनों कंपनियों द्वारा 13 नवंबर को की गई थी।

रिपोर्ट के अनुसार, कुछ घटक पहले से ही सहक्रियात्मक रूप से काम कर रहे हैं, जिससे डेवलपर्स पूर्ण कार्य चक्र निष्पादित कर सकते हैं: मॉडल को प्रशिक्षित करना, उपकरणों का प्रबंधन करना, एजेंटों को लॉन्च करना और उन्हें एक एकीकृत वर्कफ़्लो के हिस्से के रूप में रोबोट हार्डवेयर पर तैनात करना।

यह ओपन-सोर्स टूलकिट रोबोट विकास के चार चरणों को कवर करता है। इसे Tsinghua University और Infinigence AI के सहयोग से विकसित किया गया था।

डी-रोबोटिक्स हार्डवेयर और प्लेटफॉर्म प्रदान करने के लिए जिम्मेदार है। इसके सनराइज चिप्स ऑनबोर्ड डिवाइस एक्सेस और ऑपरेशन निष्पादन को सक्षम करते हैं, जबकि रोबोगो वातावरण प्रबंधन, कार्य शेड्यूलिंग और निष्पादन समय की निगरानी का ध्यान रखता है।

कंपनियों के बयानों के अनुसार, एकीकरण ने पहले ही परिणाम प्रदर्शित किए हैं: डेवलपर्स रोबोगो में प्रशिक्षण वातावरण चुन सकते हैं, रिमोटली पेरिफेरल हार्डवेयर का प्रबंधन और कॉल कर सकते हैं, और एक ही प्रक्रिया के भीतर उपकरण से फीडबैक के साथ मॉडल प्रशिक्षण, एजेंट निष्पादन और परीक्षण कर सकते हैं।

यह घोषणा दोनों पक्षों द्वारा पहले दिखाए गए कार्यों का विस्तार करती है। इन्फिजिन्स एआई ने सितंबर में अनुकूलित Pi0.5 मॉडल का उपयोग करके APXInf का ओपन-सोर्स कोड जारी किया, और S600 का अनुकूलन घरेलू रोबोट चिप को अपने लक्षित समाधानों में जोड़ता है। डी-रोबोटिक्स पहले GigaAI से GigaBrain-0.7 सहित तृतीय-पक्ष रोबोट मॉडल को सनराइज S600 के साथ एकीकृत करता था।

किसी भी कंपनी ने संयुक्त वर्कफ़्लो के लिए प्रदर्शन मेट्रिक्स प्रकाशित नहीं किए हैं और न ही बताया है कि अधिक सनराइज मॉडल APXInf का समर्थन कब करेंगे।

गूगल ने डेटा सुरक्षा और एआई में मेमोरी बढ़ाने के लिए TPU 8tx और TPU 8i Max लॉन्च किए
और पढ़ें
olhardigital.com.br

गूगल ने डेटा सुरक्षा और एआई में मेमोरी बढ़ाने के लिए TPU 8tx और TPU 8i Max लॉन्च किए

गूगल ने दो नए आर्टिफिशियल इंटेलिजेंस (एआई) चिप सिस्टम, जिन्हें TPU 8tx और TPU 8i Max कहा जाता है, जारी किए हैं, जो अपने प्रोसेसर की आठवीं पीढ़ी का विस्तार हैं। इन नए उपकरणों में से एक को प्रसंस्करण के दौरान डेटा सुरक्षा सुनिश्चित करने के लिए विशेष रूप से डिज़ाइन किया गया है, जबकि दूसरे को एआई एजेंटों द्वारा उपयोग की जाने वाली बड़ी मात्रा में जानकारी को प्रबंधित करने के लिए बनाया गया है।

इन लॉन्च के साथ, कंपनी एक ही वर्ष में आठवें पीढ़ी के चार TPU सिस्टम उपलब्ध कराती है, जिनमें से प्रत्येक को मॉडल प्रशिक्षण और निष्पादन की विभिन्न मांगों के लिए लक्षित किया गया है। ये उपकरण TPU 8t और TPU 8i को पूरक करते हैं, जिन्हें अप्रैल में गूगल क्लाउड नेक्स्ट इवेंट के दौरान पेश किया गया था।

TPU 8t बड़े पैमाने पर मॉडल प्रशिक्षण पर केंद्रित है, और TPU 8i त्वरित प्रतिक्रियाओं की आवश्यकता वाले कार्यों के लिए है। गूगल के अनुसार, ये नए चिप्स प्रशिक्षण में 2.7 गुना अधिक प्रदर्शन प्रदान करते हैं और अनुमान (inference) में पिछली पीढ़ी की तुलना में 80% बेहतर लागत-प्रदर्शन अनुपात प्रदान करते हैं।

TPU 8tx उन कंपनियों और सरकारी एजेंसियों के लिए है जिन्हें कंप्यूटिंग प्रक्रिया के दौरान गोपनीय जानकारी को उजागर किए बिना संभालना होता है। दूसरी ओर, TPU 8i Max को उन अनुप्रयोगों के लिए डिज़ाइन किया गया है जिनके लिए बड़ी मात्रा में डेटा का एक साथ विश्लेषण करने की आवश्यकता होती है, जैसे कि एआई एजेंट जो विस्तृत कोड या लंबे वीडियो रिकॉर्डिंग की जांच करते हैं।

TPU 8tx सीधे अपने हार्डवेयर में गोपनीय कंप्यूटिंग कार्यक्षमता को एकीकृत करता है। यह डेटा और मॉडल की आंतरिक जानकारी को सुरक्षित रहने की अनुमति देता है, भले ही इसका उपयोग सिस्टम द्वारा किया जा रहा हो। यह सुविधा उन संगठनों के लिए उपयुक्त है जो निजी डेटा को संभालते हैं या जिन्हें बहुत सख्त सुरक्षा मानकों का पालन करने की आवश्यकता होती है।

यह उपकरण TPU 8t की समान प्रोसेसिंग तकनीक का उपयोग करता है, लेकिन इसे पांचवीं पीढ़ी के AMD EPYC प्रोसेसर और बोर्डफ्लाई नेटवर्क के साथ जोड़ता है। गूगल ने सूचित किया कि यह संयोजन TPU 8t की तुलना में आधे तक प्रतिक्रिया समय देता है, बिना प्रदर्शन पर महत्वपूर्ण प्रभाव डाले।

आर्किटेक्चर निजी डेटा का उपयोग करके एआई मॉडल को अनुकूलित करने, बड़े मॉडलों से छोटे संस्करण बनाने और विभिन्न सर्वर सेटों के बीच जानकारी स्थानांतरित किए बिना एजेंटों को प्रशिक्षित करने का भी समर्थन करता है।

TPU 8i Max एक ही भौतिक संरचना में दो TPU 8i चिप्स को समेकित करता है, जो इसे मानक मॉडल की तुलना में दोगुना प्रसंस्करण क्षमता और मेमोरी संसाधन प्रदान करता है। इसके अलावा, गूगल ने उल्लेख किया कि यह सिस्टम रैक के समान स्थान पर दो गुना अधिक प्रोसेसिंग घटक केंद्रित करता है, जिससे डेटा केंद्रों में अधिक कम्प्यूटेशनल क्षमता मिलती है।

हार्डवेयर के अतिरिक्त, कंपनी ने डेवलपर्स की सहायता के लिए उपकरण पेश किए हैं। TorchTPU, जिसे ओपन-सोर्स के रूप में जारी किया गया है, PyTorch और Hugging Face मॉडल के साथ विकसित अनुप्रयोगों को कोड को फिर से लिखे बिना TPUs पर चलाने की अनुमति देता है। एक अन्य नवाचार TPU Sync है, जो चिप्स, सर्वरों और स्टोरेज सिस्टम के बीच संचार को बेहतर बनाता है, जिससे एआई द्वारा उत्तर उत्पन्न करते समय पुन: उपयोग की जाने वाली जानकारी तक पहुंच अनुकूलित होती है। गूगल ने कहा कि इससे इस डेटा के स्थानांतरण और पहले शब्द या उत्तर के हिस्से की प्रतीक्षा समय में 90% से अधिक की कमी आ सकती है।

अंत में, Cloud Pathways गूगल Kubernetes इंजन (GKE) पर सामान्य रूप से उपलब्ध हो गया है। यह टूल कई TPU प्रोसेसर सेटों के समन्वय को एक एकल इकाई के रूप में आसान बनाता है, जिससे उच्च प्रसंस्करण क्षमता की आवश्यकता वाले कार्यों का निष्पादन सरल हो जाता है।

गूगल ने बताया कि लगभग 100 ग्राहक पहले से ही अपने TPUs का उपयोग कर रहे हैं, जिसमें एआई प्रयोगशालाएं, वित्तीय संस्थान, खुदरा विक्रेता और विश्वविद्यालय शामिल हैं। कंपनी स्वयं अपने प्रोसेसर के विकास में तेजी लाने के लिए AlphaChip और Gemini जैसे आर्टिफिशियल इंटेलिजेंस टूल का उपयोग करती है।

लोकप्रिय