Tongyan Lingzhi kompaniyasi Pekin umumiy sunʼiy intellekt instituti (BIGAI) sanoat platformasining farqiy tuzilmasi boʻlib, shaxsiy AI konsepsiyasiga yondashuvini taqdim etdi. Bu yondashuv faqat soʻrovlar va maʼlumotlarni qidirishga tayanmasdan, aniq shaxs, loyiha yoki kompaniya maʼlumotlari asosida uzluksiz oʻrganadigan modellar yaratishni nazarda tutadi.
Bugungi kunda mavjud koʻpgina korporativ AI tizimlari tashqi foydalanuvchilarga moslashadi. Ular qoidalar oʻrnatish uchun soʻrovlardan foydalanadilar, qidiruv orqali hujjatlarni ajratib oladilar, holatni xotirada saqlaydilar va qayta ishlatiladigan bosqichlarni paketlaydilar. Biroq, modelning oʻzi oʻzaro aloqa paytida kamdan-kam hollarda oʻzgaradi.
Tongyan Lingzhi daʼvo qiladiki, barqaror odatlar, masalan, jamoaning muhandislik standartlari yoki investitsiya guruhining xavfni boshqarish disiplinasi bevosita model parametrlari ichiga integratsiya qilinishi mumkin. Kompaniyaning arxitekturasi umumiy bilimlar va fikrlashni qayta ishlash uchun umumiy asosiy modelni saqlashni nazarda tutadi, unga har bir alohida foydalanuvchi, loyiha yoki tashkilot uchun yengil LoRA shaxsiy adapterlari qoʻshiladi. Kompaniya bu individual imkoniyatlar asosiy model almashtirilgan taqdirda ham saqlanib qolishi kerakligini taʼkidlaydi.
Bu adapterlarni oʻqitishni saqlab turish uchun jamoa rekursiv oʻz-oʻzini takomillashtirish (RSI) mexanizmini ishlab chiqmoqda. Vazifalar izlanmalari, inson tomonidan tuzatishlar va olingan natijalar oʻquv uchun potentsial maʼlumotlar boʻladi. Har bir foydalanuvchi yoki kompaniya standartlariga sozlanadigan maxsus baholovchi, inkremental LoRA yangilanishi kiritilishidan oldin oʻrganilishi kerak boʻlgan signallarni tanlab oladi. Yangilangan model keyin shu vazifalarda avvalgi versiya kabi ishga tushiriladi va faqat yaxshilanishlar ish muhitiga chiqariladi, regressiyalar esa bekor qilinadi.
Texnik direktor Chu Binbin taʼkidlaganidek, bitta chetga chiqqan variant shunchaki signaldir va faqat takrorlanuvchi naqshlar oʻquv maʼlumotlari boʻlishi kerak. Bundan tashqari, kompaniya minglab bunday adapterlarni mavjud qilish imkonini beradigan infratuzilmani yaratish ustida ishlamoqda. TIP tizimi bir xil GPUlar ustida oʻqitish va inferensni parallel ravishda bajaradi, Paged LoRA esa adapter xotirasini sahifalar orqali boshqaradi. Qwen2.5-72B-Instruct dan foydalangan holda sakkizta Nvidia H800 GPU va 5,79 GB adapter xotira byudjeti bilan oʻtkazilgan bir sinov bosqichida, Paged LoRA, LoRA soʻrovlari trafikning 1% dan 30% gacha boʻlgan holatida, tekis sxemaga qaraganda yaxshiroq kechikish va «quyinda» xatti-harakatni namoyish etdi, ammo 50% ga yetganda samaradorlik pasaydi.
Tongyan Lingzhi ishning dastlabki bosqichda ekanligini tan oladi. RSI ning texnik yoʻli va mahsulot arxitekturasi aniqlangan va modullar dizayn bosqichida boʻlsa-da, toʻliq avtomatlashtirilgan oʻquv sikli hali ham ishlab chiqilmoqda. Ochiq muammolar orasida katastrofik unutish, qayta aloqani ifloslantirish va modelning suzib ketishi qolmoqda.