शोधकर्ताओं ने टिकटॉक के कोड का विश्लेषण करने के लिए एक मुफ्त आर्टिफिशियल इंटेलिजेंस टूल का उपयोग कमजोरियों की पहचान करने के उद्देश्य से किया। टीम ने पाई गई कमियों को मिलाकर मोबाइल फोन के कैमरे और तस्वीरों तक दूरस्थ पहुंच की संभावना का प्रदर्शन किया।
यह घटना स्पष्ट रूप से दर्शाती है कि कैसे एआई मॉडल भेद्यता खोज की प्रक्रिया को तेज कर सकते हैं, साथ ही हमलों को स्वचालित करने के लिए अपराधियों की क्षमताओं का विस्तार भी करते हैं। जबकि Anthropic और OpenAI जैसे अमेरिकी प्रयोगशालाएं अपने चैटबॉट्स में उन्नत सुरक्षा सुविधाओं को सीमित करती हैं, DeepSeek और Z.ai जैसे चीनी मॉडल मुफ्त डाउनलोड और संशोधन के लिए उपलब्ध हैं।
स्टार्टअप DepthFirst ने इस खुलापन का लाभ उठाया, Z.ai के GLM मॉडल को संशोधित किया और इसका उपयोग सॉफ्टवेयर में त्रुटियों की खोज के लिए किया। उपकरण ने टिकटॉक द्वारा उपयोग किए जाने वाले ओपन-सोर्स घटक में कमजोरियों का पता लगाया।
द वाशिंगटन पोस्ट द्वारा विश्लेषण किए गए वीडियो में, DepthFirst के एक कर्मचारी ने दिखाया कि इन कमजोरियों के संयोजन से उपयोगकर्ता एप्लिकेशन ब्राउज़ करते समय स्मार्टफोन के कैमरे और गैलरी तक दूरस्थ रूप से पहुंच प्राप्त करना संभव था।
कंपनी ने टिकटॉक को समस्या के बारे में सूचित किया, जिसने कमजोरी की उपस्थिति की पुष्टि की और उसे ठीक कर दिया। सुरक्षा विशेषज्ञ इस बात पर नजर रख रहे हैं कि एआई का उपयोग घुसपैठ संचालन को तेज करने के लिए कैसे किया जाता है, हालांकि वही उपकरण कंपनियों को दुर्भावनापूर्ण तत्वों द्वारा उपयोग किए जाने से पहले कमजोरियों को खोजने में मदद कर सकते हैं।
गूगल थ्रेट इंटेलिजेंस ग्रुप के विश्लेषक जॉन हल्टक्विस्ट ने उल्लेख किया कि यह तकनीक अनुभवी हैकर्स के कौशल को बढ़ा सकती है और कम तकनीकी ज्ञान वाले लोगों के लिए प्रवेश बाधा को कम कर सकती है। यूनिट 42 ने भी एआई के उपयोग को घुसपैठ करने वाले समूहों द्वारा कमजोरियों की खोज, संभावित लक्ष्यों के चयन और उनके शोषण के प्रयासों के लिए दर्ज किया है।
यूनिट 42 के अनुसार, मुफ्त मॉडल अभी भी सबसे उन्नत साइबर सुरक्षा प्रणालियों से पीछे हैं, लेकिन वे तेजी से विकसित हो रहे हैं। DepthFirst के सीईओ कसिम मितानी ने द वाशिंगटन पोस्ट को बताया कि उपयोगकर्ताओं को किसी भी एप्लिकेशन पर भरोसा नहीं करना चाहिए।
मितानी ने नियमित रूप से एप्लिकेशन अपडेट करने और उन्हें प्रदान किए गए एक्सेस अधिकारों को सीमित करने की सलाह दी, खासकर कैमरे, जियोलोकेशन और तस्वीरों के संबंध में। यह सिफारिश एआई उपकरणों की त्रुटियां खोजने और हमलों को तेज करने की बढ़ती क्षमता के मद्देनजर विशेष रूप से प्रासंगिक हो जाती है। साथ ही, वही तकनीक सुरक्षा टीमों द्वारा समस्याओं को अपराधियों द्वारा उपयोग किए जाने से पहले स्थानीयकृत करने और ठीक करने के लिए सक्रिय रूप से उपयोग की जाती है।