आईआई उद्योग अनुसंधान संस्थान (AIR), Tsinghua विश्वविद्यालय ने डोमेन ट्रांसफॉर्म के सहयोग से ज़ेवा नामक एक एम्बोडीड मैनिपुलेशन विधि प्रस्तुत की है। यह विधि मुख्य मॉडल के भार को स्थिर रखती है और संदर्भ में केवल कारण-प्रभाव स्मृति के माध्यम से तैनाती के दौरान बेहतर होती है।
एम्बोडीड मैनिपुलेशन के लिए कई परीक्षण किए गए बेंचमार्क पर, समग्र सफलता दर लगभग 26% से बढ़कर 73% हो गई, जो मानक डेटा संग्रह, लेबलिंग और फाइन-ट्यूनिंग चक्र से गुजरने की आवश्यकता के बिना 47 अंकों की वृद्धि है। 'ज़ेवा: सामान्यीकरण योग्य एम्बोडीड मैनिपुलेशन के लिए इन-कॉन्टेक्स्ट कॉज़ल लर्निंग' नामक लेख में, Cosmos3 मॉडल को आधार के रूप में उपयोग किया जाता है, और Tsinghua AIR से लियू यूनसिन और चाओ टिन लेखकों में उल्लिखित हैं।
इस दृष्टिकोण का सार दृष्टि, भाषा और क्रियाओं के मॉडलों को अधिक बड़े पैमाने पर फाइन-ट्यून करने में नहीं है, बल्कि एक मेमोरी लेयर जोड़ने में है जो एक निश्चित मॉडल को सिखाती है कि उसके अपने कार्यों ने दृश्य को कैसे बदला। ज़ेवा तीन मुख्य घटकों से बना है।
कारण-प्रभाव परिवर्तनशील एन्कोडर प्रत्येक क्रिया को बाद की स्थिति में परिवर्तन से जोड़ता है, जिससे बाद के प्रश्नों के लिए कच्चा माल बनता है। फिर कारण स्मृति दो समय पैमानों पर काम करती है: वर्तमान प्रयास के लिए एक छोटी इंटरैक्शन ट्रैजेक्टरी और एक लंबी स्थायी इंटरैक्शन मेमोरी, जो प्रयासों के बीच फ़िल्टर किए गए अनुभव को संचित करती है। इन भंडारों का लक्षित अलगाव विफलताओं के शोर के कारण दीर्घकालिक स्मृति के तत्काल संदूषण को रोकता है, जबकि उसी एपिसोड के भीतर अगला कमांड देना जारी रखता है।
अंत में, संदर्भ में नीति का कार्यान्वयन स्थिर मॉडल के इनपुट में कारण प्रॉम्प्ट डालता है, और तैनाती के दौरान ग्रेडिएंट अपडेट नहीं होते हैं। इसका मतलब है कि पर्यावरण के अनुकूलन को प्रशिक्षण के परिचालन ट्यूनिंग समस्या से संदर्भ इंजीनियरिंग की समस्या में बदल दिया जाता है।
RoboCasa365-Atomic5 प्लेटफॉर्म पर औसत सफलता दर 76.8% तक पहुंच गई। ChemLab-Evo, रासायनिक प्रयोगशाला के लिए कार्य सेट पर अधिक प्रभावशाली परिणाम प्राप्त हुए: टेस्ट ट्यूब चुनना 65% से 100% तक, गिलास रखना 25% से 70% तक और पानी डालना 30% से 80% तक। वृद्धि वहां अधिक महत्वपूर्ण थी जहां आधार मेट्रिक्स कमजोर थे, जो इस विचार के अनुरूप है कि बार-बार विफलताएं अधिक उपयोगी कारण-प्रभाव जोड़े उत्पन्न करती हैं।
एक मानव प्रदर्शन कार्रवाई ने गिलास रखने में लगभग 20 अंक और डालने में लगभग 15 अंक जोड़े - एक वृद्धि जिसे लेखक मेमोरी के कार्यान्वयन से जोड़ते हैं, न कि मापदंडों में परिवर्तन से। यह एक आकर्षक बिंदु है जब लेबलिंग बजट सीमित होते हैं।
रासायनिक विषय को इसलिए चुना गया क्योंकि तरल स्तर और बर्तन की स्थिति जैसे स्थिति परिवर्तन अपेक्षाकृत साफ होते हैं, जिससे एन्कोडर जोड़े कम शोर वाले रहते हैं; हालांकि, लेख में उल्लेख किया गया है कि कपड़े धोने जैसे विकृत वस्तुओं वाले कार्य अधिक कठिन हो सकते हैं। व्यावहारिक रूप से, ज़ेवा विशिष्ट साइट फाइन-ट्यूनिंग के हफ्तों को लंबे संदर्भों और प्रति चरण उच्च अनुमान लागत के साथ बदल देता है, जो उपयोग के साथ बेहतर होता है। वे साइटें जो शायद ही कभी बदलती हैं, आर्थिक कारणों से अभी भी क्लासिक फाइन-ट्यूनिंग को प्राथमिकता दे सकती हैं। चूंकि Cosmos3 सिस्टम से बाहर स्वतंत्र रोबोटिक्स प्लेटफॉर्म प्रकट पैकेज का हिस्सा नहीं थे, इसलिए स्थानांतरण के दावे तब तक सैद्धांतिक बने रहेंगे जब तक कि अन्य प्रयोगशालाएं विभिन्न उपकरणों और कार्य वर्गीकरणों पर मेमोरी स्टैक को पुन: उत्पन्न नहीं कर देती हैं।
