Tencent ने शर्तों के साथ लाइसेंस के तहत फ्लैगशिप मॉडल Hy4 के वज़न जारी किए
और पढ़ें
Pandaily
pandaily.com

Tencent ने शर्तों के साथ लाइसेंस के तहत फ्लैगशिप मॉडल Hy4 के वज़न जारी किए

Tencent कंपनी ने 20 नवंबर को अपने फ्लैगशिप मॉडल Hy4 के डाउनलोड करने योग्य वज़न प्रकाशित किए, जिसमें एक नई सिस्टम मैप भी शामिल थी। यह रिलीज़ 4 नवंबर को सेवा शुरू होने के बाद आई और इस सप्ताह उपलब्ध कराए गए Hy4 के पिछले चेकपॉइंट्स से अलग है।

मॉडल के आधिकारिक कार्ड में 770 बिलियन पैरामीटर वाले भाषाई कोर वाली 'मिश्रण-के-विशेषज्ञों' प्रकार की मल्टीमोडल प्रणाली का वर्णन किया गया है। सक्रियण पर, प्रत्येक टेक्स्ट टोकन के लिए 49 बिलियन पैरामीटर का उपयोग किया जाता है, और संदर्भ विंडो 1,048,576 टोकन तक पहुँच जाती है। ध्यान दें कि कोर की गणना में दृष्टि एन्कोडर, एडाप्टर और DFly2 ड्राफ्टिंग घटक शामिल नहीं हैं।

Tencent ने डेवलपर्स को आगे के प्रशिक्षण या कार्यान्वयन के लिए विभिन्न शुरुआती बिंदु प्रदान किए हैं, जिसमें Hy4, Hy4-FP8 और मूल Hy4 चेकपॉइंट्स शामिल हैं।

Pandaily ने तीनों रिपॉजिटरी में से एक शार्ड वज़न से छोटे बाइट रेंज प्राप्त करने की पुष्टि की। हालांकि, कंपनी ने पूर्ण चेकपॉइंट्स डाउनलोड नहीं किए और न ही इन्फेरेंस किया।

डिप्लॉयमेंट दस्तावेज़ीकरण में आठवे-वे टेंसर पैरेललिज्म का उपयोग करके vLLM और SGLang के लिए रेसिपी शामिल हैं; ये महत्वपूर्ण बुनियादी ढांचा डिप्लॉयमेंट हैं, न कि यह प्रमाण कि फ्लैगशिप मॉडल सामान्य लैपटॉप पर काम करता है।

वज़न Apache 2.0 के बजाय Tencent Hy License 1.0 का उपयोग करते हैं। तीसरे पक्ष को मॉडल का सामान्य-उद्देश्यीय रिमोट आउटपुट या फाइन-ट्यूनिंग प्रदान करने वाले ऑपरेटरों पर अतिरिक्त वाणिज्यिक शर्तें लागू होती हैं। मॉडल के रूप में सेवा के ऐसे ऑपरेटर को अलग लिखित अनुमति प्राप्त करनी होगी यदि उनका कुल वैश्विक सकल राजस्व किसी भी लगातार 12 महीने की अवधि में 50 मिलियन डॉलर से अधिक हो जाता है, भले ही Hy4 ने वह राजस्व उत्पन्न किया हो, या मॉडल का उपयोग 100 मिलियन से अधिक सक्रिय उपयोगकर्ताओं वाले किसी भी कैलेंडर माह में उत्पाद या सेवा में किया गया हो।

लाइसेंस सीमित कार्यक्षमता वाले एंड-यूज़र वर्कफ़्लो और अपने मॉडल को सेवा के रूप में परिभाषित करने से स्वतंत्र रूप से प्रबंधित मॉडल सेवाओं में सरल रिले को बाहर करता है। आंतरिक उपयोग के लिए एक संकीर्ण अपवाद के लिए, मॉडल, उसके व्युत्पन्न या परिणाम तीसरे पक्ष को प्रदान नहीं किए जाने चाहिए। इसलिए, इन थ्रेशोल्ड्स को प्रत्येक वाणिज्यिक उपयोगकर्ता के लिए व्यापक प्रतिबंध के रूप में प्रस्तुत नहीं किया जाना चाहिए।

Tencent साइबर सुरक्षा के लिए दुर्भावनापूर्ण प्रशिक्षण सामग्री के फ़िल्टरिंग और विशेषज्ञों द्वारा आंतरिक सुरक्षा ऑडिट आयोजित करने का भी उल्लेख करती है। ये मूल्यांकन जारीकर्ता से आते हैं, न कि मॉडल के अनुचित उपयोग न होने की स्वतंत्र गारंटी हैं। तैनाती का आकलन करने वाले डेवलपर्स को अभी भी अपने स्वयं के कार्य प्रदर्शन, संसाधन आवश्यकताओं और सुरक्षा उपायों का मूल्यांकन करना होगा।

व्यावहारिक बदलाव फ्लैगशिप मॉडल के आर्टिफैक्ट्स और इसके उपयोग को नियंत्रित करने वाली शर्तों तक पहुंच में है, न कि दृष्टि और कंप्यूटर उपयोग के क्षेत्र में Hy4 की पहले से घोषित क्षमताओं में किसी नई शुरुआत में है।

समान कहानियाँ

Tencent ने मिलियन टोकन कॉन्टेक्स्ट विंडो के साथ Hy4 मॉडल वेट जारी किए
और पढ़ें
technode.com

Tencent ने मिलियन टोकन कॉन्टेक्स्ट विंडो के साथ Hy4 मॉडल वेट जारी किए

Tencent कंपनी ने शुक्रवार को अपने फ्लैगशिप आर्टिफिशियल इंटेलिजेंस मॉडल Hy4 के वेट्स जारी किए, जिससे डेवलपर्स को इस मॉडल को स्वयं डाउनलोड और लागू करने की सुविधा मिली। यह रिलीज़ 4 नवंबर को Hy4 के प्रारंभिक लॉन्च के बाद हुई और फ्लैगशिप मॉडल को Apache 2.0 लाइसेंस के तहत उपलब्ध कराती है, जो वाणिज्यिक उपयोग और संशोधन दोनों की अनुमति देता है।

Hy4 मॉडल पाठ, छवियों और वीडियो को समझने में सक्षम है, जिसमें लगभग एक मिलियन टोकन की संदर्भ विंडो है। इसका 'एक्सपर्ट मिक्सचर' प्रकार का भाषा ढांचा 770 बिलियन पैरामीटर रखता है, जबकि प्रत्येक टोकन को संसाधित करने के लिए 49 बिलियन पैरामीटर सक्रिय होते हैं।

Tencent के बयान के अनुसार, मॉडल का यह संस्करण निर्देशों का पालन करने, लंबे संदर्भ को समझने, उन्नत कार्यों को निष्पादित करने और वैज्ञानिक अनुसंधान जैसे क्षेत्रों में Hy4 के पूर्वावलोकन से बेहतर प्रदर्शन करता है।

मॉडल ग्राफ़िकल इंटरफेस और कमांड लाइन टूल सहित वर्कफ़्लो, फ्रंटएंड विकास, गेम डिज़ाइन और कार्यालय कार्यों को सपोर्ट करता है। Tencent ने vLLM और SGLang के लिए परिनियोजन निर्देश और फाइन-ट्यूनिंग संसाधन और सुरक्षा मूल्यांकन मानचित्र प्रदान किए हैं। फ्लैगशिप मॉडल का यह विमोचन एक छोटी मॉडल Hy4 flash के अलग से जारी होने के बाद हुआ।

Tencent ने स्थानीय परिनियोजन के लिए Hy4 फ्लैश मॉडल वेट जारी किए
और पढ़ें
technode.com

Tencent ने स्थानीय परिनियोजन के लिए Hy4 फ्लैश मॉडल वेट जारी किए

Tencent कंपनी ने बुधवार को अपने आर्टिफिशियल इंटेलिजेंस मॉडल Hy4 flash के वेट जारी किए। यह रिलीज़ उस समय से दो दिन बाद हुई जब मॉडल को कंपनी के एप्लिकेशन और क्लाउड एपीआई के माध्यम से उपयोगकर्ताओं के सामने पेश किया गया था। अब डेवलपर्स मानक संस्करण, इसके FP8 प्रारूप संस्करण, और आगे के प्रशिक्षण के लिए आधार मॉडल डाउनलोड करने में सक्षम हैं।

यह रिलीज़ Tencent के इस पहले के बयान के अनुरूप है जिसमें इस मॉडल के वेट को सार्वजनिक रूप से उपलब्ध कराने की योजना बताई गई थी। Hy4 flash मॉडल पाठ और ग्राफिक दोनों इनपुट को संसाधित करने में सक्षम है, और इसकी संदर्भ विंडो एक मिलियन टोकन तक पहुँचती है।

इस मॉडल में लगभग 224 बिलियन पैरामीटर हैं, जबकि प्रत्येक टोकन के लिए लगभग 12 बिलियन पैरामीटर सक्रिय होते हैं। Hy4 flash का मुख्य उद्देश्य दस्तावेज़ तैयार करने, अनुसंधान करने और स्प्रेडशीट के साथ काम करने जैसे कार्यों में दैनिक प्रदर्शन को बढ़ाना है। Tencent ने वेट के साथ परिनियोजन के लिए संबंधित सामग्री प्रदान की, जिन्हें Tencent Hy लाइसेंस के तहत वितरित किया जा रहा है।

Tencent ने तीन संस्करणों में Hy4 फ्लैश मॉडल के वज़न जारी किए
और पढ़ें
pandaily.com

Tencent ने तीन संस्करणों में Hy4 फ्लैश मॉडल के वज़न जारी किए

Tencent कंपनी ने Hy4 फ्लैश मॉडल के वज़न जारी किए हैं, जो 16 नवंबर को इस मॉडल के API की घोषणा के बाद उपलब्ध कराए गए थे। इस बारे में IT Home ने 18 नवंबर को जानकारी दी। यह अपडेट तैनाती योग्य चेकपॉइंट्स प्राप्त करने का अवसर प्रस्तुत करता है, न कि उन API विनिर्देशों और मूल्य निर्धारण का पुनरावलोकन, जिनका पहले Pandaily द्वारा उल्लेख किया गया था।

Tencent के आधिकारिक मॉडल कार्ड में तीन संस्करण सूचीबद्ध हैं: Hy4 फ्लैश, जो निर्देश ट्यूनिंग वाला मॉडल है; Hy4 फ्लैश-FP8, इसका निर्देश ट्यूनिंग वाला क्वांटाइज़्ड संस्करण; और Hy4 फ्लैश-बेस, एक पूर्व-प्रशिक्षित आधार मॉडल। आधार चेकपॉइंट चैट के लिए तैयार विकल्पों को बदलने के बजाय आगे के प्रशिक्षण के लिए है।

Pandaily ने Hugging Face पर तीनों आधिकारिक रिपॉजिटरी की जाँच की। वज़न इंडेक्स फ़ाइलें उपलब्ध शार्ड सूचियों को संदर्भित करती थीं, और बाइट रेंज के गुमनाम अनुरोध प्रत्येक संस्करण के लिए वज़न फ़ाइल डेटा लौटाते थे। इन जांचों ने डाउनलोड की उपलब्धता की पुष्टि की, लेकिन ये चेकपॉइंट्स के पूर्ण डाउनलोड या सफल आउटपुट परीक्षण नहीं हैं।

मानक चेकपॉइंट में लगभग 440.5 जीबी टेन्सर डेटा होता है, जबकि FP8 के लिए यह लगभग 287.1 जीबी होता है। ये आकार वज़न डेटा से संबंधित हैं, न कि जीपीयू मेमोरी की न्यूनतम आवश्यकताओं से। क्वांटाइजेशन भंडारण की मात्रा को कम करता है, लेकिन रिलीज़ को छोटे उपभोक्ता उपकरणों के लिए मॉडल में परिवर्तित नहीं करता है।

डिप्लॉयमेंट दस्तावेज़ीकरण इस रिलीज़ का एक महत्वपूर्ण हिस्सा है। Tencent vLLM और SGLang के लिए विशेष कंटेनर इमेज प्रदान करता है, जिसमें आठवे तरीके टेन्सरल पैरलेलिज्म के उपयोग के उदाहरण शामिल हैं। ट्रांसफॉर्मर्स के लिए निर्देश मॉडल के समर्थन के लिए अनुरोध करते हैं, यह मानकर नहीं चलते हैं कि मानक जारी पैकेज पहले से ही इस आर्किटेक्चर का समर्थन करता है।

vLLM रेसिपी को होस्ट रैम की भी आवश्यकता होती है, क्योंकि डिफ़ॉल्ट रूप से एंग्राम टेबल सीपी मेमोरी में डंप की जाती हैं। प्रारंभिक कॉन्फ़िगरेशन 8192 टोकन का संदर्भ लेता है; मॉडल द्वारा दावा की गई 1 मिलियन टोकन की क्षमता यह गारंटी नहीं देती है कि प्रत्येक हार्डवेयर कॉन्फ़िगरेशन इतनी लंबाई को संभाल पाएगा। प्रकाशित मेमोरी संकेत अनुमान हैं, न कि मापे गए न्यूनतम आवश्यकताएं।

चेकपॉइंट Tencent Hy 1.0 लाइसेंस का उपयोग करते हैं, जो स्पष्ट रूप से बताता है कि यह Apache 2.0 नहीं है, भले ही यह उससे व्युत्पन्न हो। खंड 10 उन सेवा ऑपरेटरों के लिए मॉडल के रूप में उपयोग के लिए एक अलग लिखित लाइसेंस की मांग करता है जिसका संचयी वैश्विक राजस्व लगातार 12 महीने की अवधि में 50 मिलियन अमेरिकी डॉलर से अधिक है, या मासिक 100 मिलियन से अधिक सक्रिय उपयोगकर्ताओं वाले उत्पाद या सेवा में मॉडल का उपयोग करने के लिए। आंतरिक उपयोग के लिए एक संकीर्ण रूप से परिभाषित अपवाद लागू होता है, जब मॉडल और उसके परिणाम तीसरे पक्ष को प्रदान नहीं किए जाते हैं।

इस प्रकार, इस रिलीज़ का सबसे अच्छा वर्णन घोषित Tencent शर्तों के अनुसार वज़न के लिए खुला है, न कि असीमित रूप से अनुमत ओपन सोर्स कोड के रूप में। Tencent ने बताया है कि बड़े Hy4 मॉडल के वज़न का जारी होना अभी भी तैयारी में है।

लोकप्रिय