Tencent ने स्थानीय परिनियोजन के लिए Hy4 फ्लैश मॉडल वेट जारी किए
और पढ़ें
TechNode
technode.com

Tencent ने स्थानीय परिनियोजन के लिए Hy4 फ्लैश मॉडल वेट जारी किए

Tencent कंपनी ने बुधवार को अपने आर्टिफिशियल इंटेलिजेंस मॉडल Hy4 flash के वेट जारी किए। यह रिलीज़ उस समय से दो दिन बाद हुई जब मॉडल को कंपनी के एप्लिकेशन और क्लाउड एपीआई के माध्यम से उपयोगकर्ताओं के सामने पेश किया गया था। अब डेवलपर्स मानक संस्करण, इसके FP8 प्रारूप संस्करण, और आगे के प्रशिक्षण के लिए आधार मॉडल डाउनलोड करने में सक्षम हैं।

यह रिलीज़ Tencent के इस पहले के बयान के अनुरूप है जिसमें इस मॉडल के वेट को सार्वजनिक रूप से उपलब्ध कराने की योजना बताई गई थी। Hy4 flash मॉडल पाठ और ग्राफिक दोनों इनपुट को संसाधित करने में सक्षम है, और इसकी संदर्भ विंडो एक मिलियन टोकन तक पहुँचती है।

इस मॉडल में लगभग 224 बिलियन पैरामीटर हैं, जबकि प्रत्येक टोकन के लिए लगभग 12 बिलियन पैरामीटर सक्रिय होते हैं। Hy4 flash का मुख्य उद्देश्य दस्तावेज़ तैयार करने, अनुसंधान करने और स्प्रेडशीट के साथ काम करने जैसे कार्यों में दैनिक प्रदर्शन को बढ़ाना है। Tencent ने वेट के साथ परिनियोजन के लिए संबंधित सामग्री प्रदान की, जिन्हें Tencent Hy लाइसेंस के तहत वितरित किया जा रहा है।

समान कहानियाँ

Tencent ने मिलियन टोकन कॉन्टेक्स्ट विंडो के साथ Hy4 मॉडल वेट जारी किए
और पढ़ें
technode.com

Tencent ने मिलियन टोकन कॉन्टेक्स्ट विंडो के साथ Hy4 मॉडल वेट जारी किए

Tencent कंपनी ने शुक्रवार को अपने फ्लैगशिप आर्टिफिशियल इंटेलिजेंस मॉडल Hy4 के वेट्स जारी किए, जिससे डेवलपर्स को इस मॉडल को स्वयं डाउनलोड और लागू करने की सुविधा मिली। यह रिलीज़ 4 नवंबर को Hy4 के प्रारंभिक लॉन्च के बाद हुई और फ्लैगशिप मॉडल को Apache 2.0 लाइसेंस के तहत उपलब्ध कराती है, जो वाणिज्यिक उपयोग और संशोधन दोनों की अनुमति देता है।

Hy4 मॉडल पाठ, छवियों और वीडियो को समझने में सक्षम है, जिसमें लगभग एक मिलियन टोकन की संदर्भ विंडो है। इसका 'एक्सपर्ट मिक्सचर' प्रकार का भाषा ढांचा 770 बिलियन पैरामीटर रखता है, जबकि प्रत्येक टोकन को संसाधित करने के लिए 49 बिलियन पैरामीटर सक्रिय होते हैं।

Tencent के बयान के अनुसार, मॉडल का यह संस्करण निर्देशों का पालन करने, लंबे संदर्भ को समझने, उन्नत कार्यों को निष्पादित करने और वैज्ञानिक अनुसंधान जैसे क्षेत्रों में Hy4 के पूर्वावलोकन से बेहतर प्रदर्शन करता है।

मॉडल ग्राफ़िकल इंटरफेस और कमांड लाइन टूल सहित वर्कफ़्लो, फ्रंटएंड विकास, गेम डिज़ाइन और कार्यालय कार्यों को सपोर्ट करता है। Tencent ने vLLM और SGLang के लिए परिनियोजन निर्देश और फाइन-ट्यूनिंग संसाधन और सुरक्षा मूल्यांकन मानचित्र प्रदान किए हैं। फ्लैगशिप मॉडल का यह विमोचन एक छोटी मॉडल Hy4 flash के अलग से जारी होने के बाद हुआ।

Tencent ने तीन संस्करणों में Hy4 फ्लैश मॉडल के वज़न जारी किए
और पढ़ें
pandaily.com

Tencent ने तीन संस्करणों में Hy4 फ्लैश मॉडल के वज़न जारी किए

Tencent कंपनी ने Hy4 फ्लैश मॉडल के वज़न जारी किए हैं, जो 16 नवंबर को इस मॉडल के API की घोषणा के बाद उपलब्ध कराए गए थे। इस बारे में IT Home ने 18 नवंबर को जानकारी दी। यह अपडेट तैनाती योग्य चेकपॉइंट्स प्राप्त करने का अवसर प्रस्तुत करता है, न कि उन API विनिर्देशों और मूल्य निर्धारण का पुनरावलोकन, जिनका पहले Pandaily द्वारा उल्लेख किया गया था।

Tencent के आधिकारिक मॉडल कार्ड में तीन संस्करण सूचीबद्ध हैं: Hy4 फ्लैश, जो निर्देश ट्यूनिंग वाला मॉडल है; Hy4 फ्लैश-FP8, इसका निर्देश ट्यूनिंग वाला क्वांटाइज़्ड संस्करण; और Hy4 फ्लैश-बेस, एक पूर्व-प्रशिक्षित आधार मॉडल। आधार चेकपॉइंट चैट के लिए तैयार विकल्पों को बदलने के बजाय आगे के प्रशिक्षण के लिए है।

Pandaily ने Hugging Face पर तीनों आधिकारिक रिपॉजिटरी की जाँच की। वज़न इंडेक्स फ़ाइलें उपलब्ध शार्ड सूचियों को संदर्भित करती थीं, और बाइट रेंज के गुमनाम अनुरोध प्रत्येक संस्करण के लिए वज़न फ़ाइल डेटा लौटाते थे। इन जांचों ने डाउनलोड की उपलब्धता की पुष्टि की, लेकिन ये चेकपॉइंट्स के पूर्ण डाउनलोड या सफल आउटपुट परीक्षण नहीं हैं।

मानक चेकपॉइंट में लगभग 440.5 जीबी टेन्सर डेटा होता है, जबकि FP8 के लिए यह लगभग 287.1 जीबी होता है। ये आकार वज़न डेटा से संबंधित हैं, न कि जीपीयू मेमोरी की न्यूनतम आवश्यकताओं से। क्वांटाइजेशन भंडारण की मात्रा को कम करता है, लेकिन रिलीज़ को छोटे उपभोक्ता उपकरणों के लिए मॉडल में परिवर्तित नहीं करता है।

डिप्लॉयमेंट दस्तावेज़ीकरण इस रिलीज़ का एक महत्वपूर्ण हिस्सा है। Tencent vLLM और SGLang के लिए विशेष कंटेनर इमेज प्रदान करता है, जिसमें आठवे तरीके टेन्सरल पैरलेलिज्म के उपयोग के उदाहरण शामिल हैं। ट्रांसफॉर्मर्स के लिए निर्देश मॉडल के समर्थन के लिए अनुरोध करते हैं, यह मानकर नहीं चलते हैं कि मानक जारी पैकेज पहले से ही इस आर्किटेक्चर का समर्थन करता है।

vLLM रेसिपी को होस्ट रैम की भी आवश्यकता होती है, क्योंकि डिफ़ॉल्ट रूप से एंग्राम टेबल सीपी मेमोरी में डंप की जाती हैं। प्रारंभिक कॉन्फ़िगरेशन 8192 टोकन का संदर्भ लेता है; मॉडल द्वारा दावा की गई 1 मिलियन टोकन की क्षमता यह गारंटी नहीं देती है कि प्रत्येक हार्डवेयर कॉन्फ़िगरेशन इतनी लंबाई को संभाल पाएगा। प्रकाशित मेमोरी संकेत अनुमान हैं, न कि मापे गए न्यूनतम आवश्यकताएं।

चेकपॉइंट Tencent Hy 1.0 लाइसेंस का उपयोग करते हैं, जो स्पष्ट रूप से बताता है कि यह Apache 2.0 नहीं है, भले ही यह उससे व्युत्पन्न हो। खंड 10 उन सेवा ऑपरेटरों के लिए मॉडल के रूप में उपयोग के लिए एक अलग लिखित लाइसेंस की मांग करता है जिसका संचयी वैश्विक राजस्व लगातार 12 महीने की अवधि में 50 मिलियन अमेरिकी डॉलर से अधिक है, या मासिक 100 मिलियन से अधिक सक्रिय उपयोगकर्ताओं वाले उत्पाद या सेवा में मॉडल का उपयोग करने के लिए। आंतरिक उपयोग के लिए एक संकीर्ण रूप से परिभाषित अपवाद लागू होता है, जब मॉडल और उसके परिणाम तीसरे पक्ष को प्रदान नहीं किए जाते हैं।

इस प्रकार, इस रिलीज़ का सबसे अच्छा वर्णन घोषित Tencent शर्तों के अनुसार वज़न के लिए खुला है, न कि असीमित रूप से अनुमत ओपन सोर्स कोड के रूप में। Tencent ने बताया है कि बड़े Hy4 मॉडल के वज़न का जारी होना अभी भी तैयारी में है।

Tencent ने Hy4 flash मॉडल पेश किया, आंतरिक परीक्षणों में एआई कार्यों की लागत 95% कम की
और पढ़ें
technode.com

Tencent ने Hy4 flash मॉडल पेश किया, आंतरिक परीक्षणों में एआई कार्यों की लागत 95% कम की

Tencent कंपनी ने सोमवार को Hy4 flash जारी किया - एक अधिक किफायती आर्टिफिशियल इंटेलिजेंस मॉडल जो प्रस्तुतिकरण बनाने, शोध करने और स्प्रेडशीट संपादित करने जैसे रोजमर्रा के कार्यों के लिए डिज़ाइन किया गया है।

Tencent के आंतरिक बेंचमार्क WorkIndex के अनुसार, Hy4 flash मॉडल द्वारा एक कार्य को पूरा करने की लागत पूर्ण Hy4 मॉडल की तुलना में केवल एक बीसवां हिस्सा थी। API की कीमतें इस प्रकार निर्धारित की गई हैं: प्रति मिलियन इनपुट टोकन के लिए $0.07, प्रति मिलियन आउटपुट टोकन के लिए $0.281, और प्रति मिलियन कैश किए गए इनपुट टोकन के लिए $0.003।

Hy4 flash मॉडल मल्टीमॉडल इनपुट का समर्थन करता है और इसमें एक मिलियन टोकन तक की संदर्भ विंडो है। इसमें 224 बिलियन पैरामीटर हैं और सीधे पास के दौरान 12 बिलियन पैरामीटर सक्रिय होते हैं।

एक अलग ब्लाइंड परीक्षण में, जिसमें WorkBuddy के 85 उपयोगकर्ताओं ने 259 कार्यों पर परिणामों का मूल्यांकन किया, Tencent ने बताया कि मॉडल ने Claude Haiku 5.5 के करीब उपयोगकर्ता संतुष्टि स्तर दिखाया, जबकि इसका परीक्षण किए गए मॉडलों में सबसे कम लागत और सबसे कम समापन समय था।

यह मॉडल WorkBuddy और Yuanbao में, साथ ही Tencent Cloud में TokenHub के माध्यम से भी उपलब्ध है। WorkBuddy उपयोगकर्ता 30 नवंबर तक इसका मुफ्त उपयोग कर सकते हैं, और TokenHub मानक मूल्य से आधे डिस्काउंट पर API एक्सेस प्रदान करता है। Tencent मॉडल के वज़न को प्रकाशित करने और इसे OpenRouter पर उपलब्ध कराने की योजना बना रहा है।

लोकप्रिय