SenseTime ने चक्रीय वास्तुकला के साथ SenseNova-Loop-9B-Preview मॉडल जारी किया

चीनी कंपनी MemTensor ने मेमोरी-आधारित मौलिक मॉडलों की एक श्रृंखला प्रस्तुत की और उसे सार्वजनिक रूप से उपलब्ध कराया, जिसे उन्होंने MemT 1.0 नाम दिया। इस श्रृंखला में दो मॉडल शामिल हैं: MemT-1.0-Flash, जिसमें कुल 288 अरब पैरामीटर हैं जिनमें से सक्रिय रूप से 17 अरब का उपयोग किया जाता है, और MemT-1.0-Nano, जिसमें 36 अरब कुल पैरामीटर और 3 अरब सक्रिय पैरामीटर हैं।

इन मॉडलों के वज़न Hugging Face प्लेटफॉर्म पर उपलब्ध हैं, और संबंधित कोड तकनीकी रिपोर्ट के साथ GitHub पर रखा गया है।

ये मॉडल लंबे संवादों से जुड़ी एक सामान्य समस्या को हल करने के लिए विकसित किए गए हैं। अधिकांश मौजूदा सिस्टम पूरी कहानी को संदर्भ विंडो में संग्रहीत करते हैं, जिससे हर नई चाल के साथ धीमापन और इन्फेरेंस की लागत बढ़ जाती है। इसके बजाय, MemT मॉडल के भीतर एक प्रशिक्षित मेमोरी मॉड्यूल को एकीकृत करता है।

प्रत्येक इंटरैक्शन के बाद, मॉडल नई जानकारी को एक निश्चित मेमोरी स्थिति में लिखता है और आवश्यकता पड़ने पर उसे पुनर्प्राप्त करता है, बजाय इसके कि वह हर बार पूरे पिछले रिकॉर्ड को फिर से पढ़े।

MemTensor बताता है कि मॉडलों को 34 अरब टोकन के आधार पर दो चरणों में प्रशिक्षित किया गया था: पहले मॉडल को मेमोरी में जानकारी लिखना सिखाया गया, और फिर उसे इस संग्रहीत जानकारी का उपयोग करके सवालों का जवाब देना सिखाया गया।

प्रदर्शन परिणाम और तुलना

सभी प्रस्तुत प्रदर्शन मेट्रिक्स कंपनी के स्वयं के मूल्यांकन पर आधारित हैं। MemTensor का दावा है कि 128 हजार टोकन की कहानी के साथ एंड-टू-एंड इन्फेरेंस पूर्ण संदर्भ दृष्टिकोण की तुलना में लगभग 1.86 गुना तेज काम करता है, और 256 हजार टोकन के साथ लगभग 3.99 गुना तेज काम करता है।

पहले टोकन के प्रतिक्रिया समय का अनुमान मेमोरी मॉडल के लिए लगभग 104-112 मिलीसेकंड है, जबकि 256K के लिए पूर्ण संदर्भ के लिए यह लगभग 445 मिलीसेकंड है। इसके अलावा, कंपनी बताती है कि 256K की कहानी के साथ प्रति सत्र मेमोरी स्थिति का आकार लगभग 40 एमबी है, जो पूर्ण संदर्भ कैश के लिए आवश्यक 5.06 जीबी से काफी कम है, जो लगभग 130 गुना कमी दर्शाता है।

मेमोरी पर 11 बेंचमार्क पर, MemTensor फ्लैश के लिए 50.6 और नैनो के लिए 47.0 का औसत स्कोर बताता है। ये परिणाम मॉडलों को तुलनात्मक पैरामीट्रिक मेमोरी तरीकों में पहले और दूसरे स्थान पर रखते हैं और औसतन खोज-वर्धित दृष्टिकोणों (retrieval-augmented approaches) के परिणामों के अनुरूप हैं, भले ही क्वेरी के दौरान इतिहास को पुनर्प्राप्त न किया जाए।

कंपनी इस बात पर भी जोर देती है कि मेमोरी जोड़ने से बड़े व्यवधान वाले परीक्षणों में फ्लैश मॉडल की समग्र क्षमताओं में कोई गिरावट नहीं आई है।

डेवलपर्स को लाइसेंसिंग शर्तों पर ध्यान देना चाहिए: रिपॉजिटरी कोड गैर-व्यावसायिक PolyForm लाइसेंस के तहत प्रकाशित किया गया है, जबकि मॉडल वज़न क्रमशः Apache और MIT लाइसेंस के तहत हैं।

टीम दीर्घकालिक स्मृति में सुधार, मेमोरी क्षमता बढ़ाने और मेमोरी अपडेट की लागत कम करने की दिशा में आगे विकास की योजना बना रही है, जिसका दीर्घकालिक लक्ष्य ऐसे एजेंट बनाना है जो अपनी बातचीत के आधार पर सीखते रहें।

VAST, जो 3डी में जेनरेटिव एआई में विशेषज्ञता रखता है और Tripo प्लेटफॉर्म के पीछे है, ने EdenLive मॉडल को सार्वजनिक कर दिया है। यह मॉडल वास्तविक समय में काम करता है और सरलीकृत गेम फ्रेम या मौजूदा वीडियो को लेता है, उन्हें चुने हुए शैली में विस्तृत छवियों में लगातार फिर से प्रस्तुत करता है, जो फोटो-यथार्थवादी से लेकर एनीमे तक भिन्न हो सकती है।

इस रिलीज़ में 5B और 14B आकार के मॉडल वेट्स, वास्तविक समय इन्फेरेंस के लिए कोड, एक तकनीकी रिपोर्ट और एंड-टू-एंड डेमो शामिल हैं। यह ध्यान रखना महत्वपूर्ण है कि EdenLive स्वयं दुनिया का अनुकरण नहीं करता है; इसके बजाय, एक उच्च-स्तरीय प्रोग्राम, जैसे गेम इंजन या कोडिंग एजेंट द्वारा लिखा गया कोड, नियमों का पालन करने, दुनिया की स्थिति को ट्रैक करने और एक मोटे संदर्भ वीडियो को आउटपुट करने के लिए जिम्मेदार होता है।

इस संदर्भ वीडियो को प्राप्त करने के बाद, EdenLive निर्दिष्ट पहले फ्रेम और टेक्स्ट प्रॉम्प्ट का मार्गदर्शन करते हुए रेंडरिंग करता है। VAST का तर्क है कि इस अलगाव से गेम लॉजिक को स्पष्ट और परीक्षण योग्य बनाए रखने की अनुमति मिलती है, जबकि वास्तविक समय में मॉडल की सीमित क्षमताओं को पूरी तरह से बाहरी रूप पर केंद्रित किया जाता है।

इस दृष्टिकोण को पहली बार जून में प्रोजेक्ट ईडन नामक एक बड़े विश्व अनुसंधान के हिस्से के रूप में प्रस्तुत किया गया था। VAST के बयानों के अनुसार, 5B मॉडल एक Nvidia RTX 5090 पर 720p रिज़ॉल्यूशन पर 24 फ्रेम प्रति सेकंड से अधिक की दर पर काम कर सकता है। GitHub पर README फ़ाइल में, लाइटएक्स2V इन्फेरेंस फ्रेमवर्क से त्वरण का उपयोग करते हुए, 1280x704 पिक्सेल रिज़ॉल्यूशन पर लगभग 24.7 FPS के रूप में यह संख्या बताई गई है।

तकनीकी रिपोर्ट एक ही H100 पर समान रिज़ॉल्यूशन पर 29.8 FPS और आठ H100 पर 14B मॉडल के लिए 832x480 रिज़ॉल्यूशन पर 26.8 FPS का आंकड़ा बताती है। VAST का दावा है कि उपयोगकर्ता इनपुट से संबंधित फ्रेम तक कुल विलंबता कुछ सौ मिलीसेकंड है, और सिस्टम कई मिनटों तक लगातार सामग्री उत्पन्न कर सकता है।

दोनों मॉडल Wan2.2-TI2V-5B और Wan2.1-I2V-14B वीडियो मॉडल पर आधारित हैं। इन्फेरेंस कोड और मुख्य डिफ्यूजन, VAE और डिकोडर वेट Apache 2.0 लाइसेंस के तहत वितरित किए जाते हैं, हालांकि सभी घटक इस लाइसेंस के अंतर्गत नहीं आते हैं। विज़ुअल एन्कोडर DINOv3 लाइसेंस का उपयोग करता है, और अनुरोध से गेम तक कार्यक्षेत्र में उपयोग की जाने वाली छवि मॉडल गैर-व्यावसायिक FLUX लाइसेंस के तहत है, जो इस कार्यक्षेत्र के गैर-व्यावसायिक उद्देश्यों के लिए उपयोग को प्रतिबंधित करता है।

VAST ने Game Prototype Turbo भी पेश किया है - एक कौशल जो टेक्स्ट प्रॉम्प्ट को एक मोटे खेलने योग्य गेम में बदल देता है जिसे EdenLive फिर रेंडर कर सकता है। VAST के प्रदर्शनों में एक प्लेटफॉर्मर शामिल है जहां चरित्र आधार बिंदु बनाने के लिए लावा को जमाता है, एक दो-खिलाड़ी फाइटिंग गेम जिसमें स्वास्थ्य बार और राउंड टाइमर को उच्च-स्तरीय प्रणाली द्वारा ट्रैक किया जाता है, और एक वीडियो रेंडरिंग जो नीली पृष्ठभूमि पर फिल्माए गए व्यक्ति को कार्टून चरित्र में बदल देती है। इसके अलावा, मॉडल एम्बोडेड एआई के लिए अतिरिक्त प्रशिक्षण डेटा बनाने हेतु फुटेज में मानव हाथों को रोबोटिक हाथों से बदलने का प्रदर्शन करता है।

VAST отмечает कि वर्तमान में EdenLive कम आवृत्ति की बातचीत के लिए सबसे उपयुक्त है, जैसे दृश्यों का निरीक्षण करना और बक्से धकेलने वाले पहेलियाँ। तेज़, गहन गेमप्ले, कई पात्रों की स्थिरता बनाए रखना, छोटी वस्तुओं पर सूक्ष्म नियंत्रण और लंबी सत्रों में दृश्य स्थिरता अभी भी सुधार की मांग करती है।

DeepSeek कंपनी ने आधिकारिक तौर पर V4.1-Flash-1017 मॉडल पेश किया है, जो इसके V4.1 फ्लैश मॉडल का एक मामूली अपडेट है। इस संबंध में, कंपनी ने अपने वेब इंटरफ़ेस, मोबाइल एप्लिकेशन और एपीआई के लिए अपनी सेवाओं को नए संस्करण पर स्विच कर दिया है। एपीआई उपयोगकर्ताओं को कोई बदलाव करने की आवश्यकता नहीं है, क्योंकि मॉडल अभी भी deepseek-flash के रूप में नामित रहता है, और कंपनी के बयान के अनुसार, जिसकी सूचना आईटी होम ने दी, मूल्य निर्धारण नीति अपरिवर्तित रहती है।

मॉडल वेट्स Hugging Face और ModelScope प्लेटफॉर्म पर MIT लाइसेंस के तहत उपलब्ध हैं, जो V4.1 फ्लैश के लिए लागू शर्तों के अनुरूप है। पहले, 17 अक्टूबर को, Pandaily द्वारा सूचित किया गया था कि DeepSeek एपीआई मॉडल सूची में अस्थायी रूप से 'deepseek-v4.1-flash-1017' प्रविष्टि दिखाई दी थी, लेकिन यह आधिकारिक घोषणा से पहले था। अब यह लॉन्च इस बिल्ड की पुष्टि करता है। ब्लूमबर्ग और द स्ट्रेट्स टाइम्स ने इस अपडेट पर रिपोर्ट किया, जिसमें इसकी उच्च गति और कम लागत पर प्रकाश डाला गया। चीनी स्रोतों ने प्रशिक्षण प्रक्रिया, मॉडल ट्यूनिंग और इसके उपयोग के संदर्भ के बारे में अतिरिक्त जानकारी प्रदान की है।

DeepSeek इस अपडेट को पैरेटो सुधार के रूप में चित्रित करती है, क्योंकि यह निष्पादन समय और आउटपुट की लंबाई को कम करते हुए बेंचमार्क प्रदर्शन में वृद्धि सुनिश्चित करता है, जिससे प्रति कॉल कुल लागत कम हो जाती है। Hugging Face पर मॉडल कार्ड के अनुसार, टर्मिनल-बेंच 4.0 टेस्ट (Claude Code हैंडलर का उपयोग करके) में स्कोर 31.2 से बढ़कर 42.3 हो गया। इसी तरह, प्रोग्रामबेंच 20.3 से बढ़कर 29.1, डीपएसडब्ल्यूई v1.1 - 74.2 से 77.0, एनएल2रिपो-बेंच - 65.4 से 68.2, और ऑटोमेशन-बेंच - 54.8 से 60.5 हो गया।

मुख्य कार्यात्मक परिवर्तन, जिसे DeepSeek इच्छा-शैली प्रोग्रामिंग (wish-style programming) कहती है, संक्षिप्त प्रॉम्प्ट और न्यूनतम संदर्भ सामग्री का उपयोग करके शून्य से एक पूर्ण, निष्पादन योग्य परियोजना बनाने की क्षमता है। कंपनी इसे आत्म-मूल्यांकन पर आधारित सुदृढीकरण शिक्षण के अनुप्रयोग के रूप में समझाती है, जिसके दौरान मॉडल प्रशिक्षण के दौरान अपने अंतिम परिणाम की आलोचना करता है। DeepSeek की वेबसाइट पर प्रदर्शित डेमो में संग्रहालय महल का त्रि-आयामी मॉडल, एक ब्राउज़र रेसिंग गेम, Godot इंजन में पोर्टल 2 का पुनर्निर्माण और वैली ऑफ एजेस नामक एक युगों के माध्यम से दृश्य शामिल है, और ये सभी DeepSeek Harness के भीतर बहुत कम पुनरावृत्तियों में बनाए गए थे।

इसके अलावा, DeepSeek ने मॉडल को विशेष रूप से DeepSeek Harness, और Tencent के उपकरणों - CodeBuddy और WorkBuddy के लिए अनुकूलित किया है। पूर्ण समर्थन के लिए, उपयोगकर्ताओं को Harness का संस्करण 0.2.1-rc.1 या नया आवश्यक है। मॉडल के साथ-साथ, कंपनी ने डेवलपर्स को अलग API Search और Fetch के रूप में अपने आंतरिक खोज इंजन तक पहुंच प्रदान की है।

यह रिलीज़ सेवा में रुकावटों के बाद आई है। 15 अक्टूबर की सुबह, उपयोगकर्ताओं ने पाया कि DeepSeek लगभग पांच घंटे तक अनुपलब्ध था, जैसा कि Tencent News की रिपोर्ट है। DeepSeek के सार्वजनिक स्थिति पृष्ठ के अनुसार, चालू वर्ष में विभिन्न गंभीरता स्तरों के 44 घटनाएँ दर्ज की गई हैं, जिसमें प्रदर्शन में संक्षिप्त गिरावट और आंशिक विफलताएं शामिल हैं, जिनमें से एक मार्च के अंत में लगभग 12 घंटे तक चली थी। DeepSeek ने इस विफलता को मॉडल अपडेट से नहीं जोड़ा है।