टोंगयान लिंगझी, जो बीजिंग इंस्टीट्यूट ऑफ जनरल आर्टिफिशियल इंटेलिजेंस (BIGAI) के औद्योगिक प्लेटफॉर्म की सहायक कंपनी है, ने व्यक्तिगत एआई की अवधारणा के लिए अपना दृष्टिकोण प्रस्तुत किया है। इस दृष्टिकोण में ऐसे मॉडल बनाना शामिल है जो केवल प्रश्नों और जानकारी की खोज पर निर्भर रहने के बजाय किसी विशिष्ट व्यक्ति, परियोजना या कंपनी के डेटा के आधार पर लगातार सीखते हैं।
आज अधिकांश मौजूदा कॉर्पोरेट एआई सिस्टम बाहरी उपयोगकर्ताओं के अनुकूल होते हैं। वे नियमों को स्थापित करने के लिए प्रश्नों का उपयोग करते हैं, खोज के माध्यम से दस्तावेज़ निकालते हैं, स्थिति को मेमोरी में संग्रहीत करते हैं और पुन: प्रयोज्य चरणों को पैक करते हैं। हालांकि, इंटरैक्शन के बाद मॉडल के वज़न शायद ही कभी बदलते हैं।
टोंगयान लिंगझी का दावा है कि स्थिर आदतें, जैसे टीम के इंजीनियरिंग मानक या निवेश समूह की जोखिम प्रबंधन अनुशासन, को सीधे मॉडल मापदंडों में एकीकृत किया जा सकता है। कंपनी की वास्तुकला सामान्य ज्ञान और तर्क को संसाधित करने के लिए एक सामान्य आधार मॉडल को बनाए रखने का प्रावधान करती है, जिसमें प्रत्येक व्यक्तिगत उपयोगकर्ता, परियोजना या संगठन के लिए हल्के पर्सनल LoRA एडेप्टर जोड़े जाते हैं। कंपनी का कहना है कि ये व्यक्तिगत क्षमताएं आधार मॉडल बदलने की स्थिति में भी बनी रहनी चाहिए।
इन एडेप्टरों को प्रशिक्षित रखने के लिए, टीम रिकर्सिव सेल्फ-इम्प्रूवमेंट (RSI) नामक एक तंत्र विकसित कर रही है। कार्य ट्रैकिंग, मानव द्वारा सुधार और प्राप्त परिणाम सीखने के लिए संभावित डेटा बन जाते हैं। प्रत्येक उपयोगकर्ता या कंपनी के मानकों के अनुरूप सेट एक विशेष मूल्यांकनकर्ता उन संकेतों का चयन करता है जिन्हें वृद्धिशील LoRA अपडेट करने से पहले अध्ययन करने लायक है। फिर अद्यतन मॉडल को पिछले संस्करण के समान कार्यों पर चलाया जाता है, और केवल सुधारों को कार्य वातावरण में जारी किया जाता है, जबकि प्रतिगमन को रद्द कर दिया जाता है।
सीटीओ चू बिनबिन ने जोर देकर कहा कि एक विचलन केवल एक संकेत है, और केवल दोहराए जाने वाले पैटर्न ही प्रशिक्षण डेटा बन सकते हैं। इसके अलावा, कंपनी हजारों ऐसे एडेप्टर को सुलभ बनाने के लिए बुनियादी ढांचा तैयार कर रही है। TIP प्रणाली एक ही GPU पर समानांतर में प्रशिक्षण और अनुमान दोनों करती है, और Paged LoRA एडेप्टर मेमोरी को पेजों में प्रबंधित करता है। आठ Nvidia H800 GPUs और 5.79 जीबी एडेप्टर मेमोरी बजट का उपयोग करके Qwen2.5-72B-Instruct के साथ एक परीक्षण चरण में, Paged LoRA ने फ्लैट लेआउट की तुलना में बेहतर विलंबता और 'टेल' व्यवहार प्रदर्शित किया जब LoRA अनुरोध ट्रैफिक का 1% से 30% थे, हालांकि 50% तक पहुंचने पर प्रदर्शन कम हो गया।
टोंगयान लिंगझी स्वीकार करता है कि काम प्रारंभिक चरण में है। हालांकि RSI का तकनीकी मार्ग और उत्पाद वास्तुकला परिभाषित हैं, और मॉड्यूल डिजाइन चरण में हैं, पूरी तरह से स्वचालित शिक्षण चक्र अभी भी विकास में है। खुले मुद्दों में कैटास्ट्रोफिक फॉरगेटिंग, फीडबैक प्रदूषण और मॉडल ड्रिफ्ट शामिल हैं।
