सामग्री पर जाएँ
kenjtecJournal
Journal में खोजें

ब्राउज़र एजेंटों को हर क्लिक के बाद दोबारा क्यों देखना पड़ता है

क्लिक का निर्देशांक किसी एक विशेष स्क्रीनशॉट से जुड़ा होता है। हमारा अपना एक सर्च फ़्लो समझाता है कि विज़ुअल एजेंटों को हर प्रासंगिक बदलाव के बाद अपने कार्यों के प्रभाव को फिर से क्यों देखना पड़ता है।

लेना एक छेददार बोर्ड पर उस रिंच को खोजती है, जो किसी और जगह टँगा है। एआई चित्रण।

चौड़े व्यू में सर्च बटन इनपुट फ़ील्ड के दाईं ओर होता है। संकरी स्क्रीन पर वह उसके नीचे होता है। इसलिए जो एजेंट बस पहले क्लिक के स्थान को दोहराता है, वह चूक सकता है, भले ही वास्तविक कार्य नहीं बदला हो। निर्देशांक गलत नहीं था। उसका संदर्भ-ढाँचा पुराना हो चुका है।

मूल UI-TARS रिपॉज़िटरी ग्राफ़िकल यूज़र इंटरफ़ेस के विज़ुअल संचालन का वर्णन करती है और UI-TARS-2 की तिथि 4 सितंबर 2025 बताती है। यह रिलीज़ एक वर्ष से अधिक पुरानी है और यहाँ तकनीकी आधार के रूप में काम करती है। हम इससे न तो कोई वर्तमान अग्रणी स्थिति निकालते हैं और न ही अपना कोई बेंचमार्क। दिलचस्प प्रश्न यह है: किसी कार्रवाई को कौन-सा अवलोकन चाहिए ताकि उसके परिणाम का आकलन किया ही जा सके?

एक स्क्रीनशॉट एक स्थिति का वर्णन करता है

एक छवि किसी विशेष क्षण में इंटरफ़ेस को दिखाती है। विंडो की चौड़ाई, स्क्रॉल की स्थिति और खुले हुए सेक्शन उसी स्थिति का हिस्सा हैं। किसी बटन के स्थान को इन शर्तों से पूरी तरह अलग नहीं किया जा सकता। कोई स्थान अपना अर्थ केवल संबंधित छवि और वर्तमान कार्य के माध्यम से ही प्राप्त करता है।

हमारा अपना उदाहरण एक काल्पनिक पुस्तकालय पृष्ठ का उपयोग करता है। व्यक्ति एक किताब खोजना चाहता है। स्क्रीन पर सर्च, साइन-इन और कार्यक्रमों के बारे में एक सूचना दिखाई देती है। वहाँ एक जैसी शैली वाले तीन बटन हो सकते हैं। सबसे बड़ा या सबसे रंगीन बटन अपने-आप सही नहीं होता। कार्य तय करता है कि कौन-सा लक्ष्य प्रासंगिक है।

इससे विज़ुअल संचालन की पहली सीमा दिखती है: पहचानना और निर्णय लेना आपस में जुड़े हुए हैं। एजेंट को किसी तत्व का केवल पता ही नहीं लगाना होता, बल्कि उसे अपनी इच्छित कार्रवाई से मिलाना भी होता है। साफ़ तौर पर पहचाना गया साइन-इन बटन किताब की खोज में मदद नहीं करता।

छवि का आकार और लक्ष्य का स्थान साथ-साथ चलते हैं

यदि प्रोसेसिंग के लिए किसी छवि का आकार बदला जाता है, तो निर्देशांकों को वास्तव में उपयोग किए गए संदर्भ-ढाँचे से मेल खाना चाहिए। संख्याओं की वही जोड़ी अलग-अलग आकार की छवियों पर अलग-अलग जगहों को दर्शा सकती है। स्क्रीन का आकार न बदलने पर भी कोई लाभ नहीं होता, यदि कोई फैली हुई सूचना सामग्री को नीचे धकेल देती है।

इसलिए एक स्पष्ट अवलोकन नोट सबसे महत्वपूर्ण विवरणों को आपस में जोड़ता है। निम्नलिखित स्कीमा हमारा अपना है; इसमें कोई वास्तविक UI-TARS आउटपुट नहीं है और यह कोई निष्पादन-योग्य एजेंट फ़ॉर्मेट नहीं है:

Observation: search page, narrow view
Goal: trigger a search for the entered book title
Action: press the visible search button
Expectation: results or an understandable result state
Afterwards: assess the new view

अंतिम प्रविष्टि निर्णायक है। यह रोकती है कि केवल तकनीकी रूप से निष्पादित कोई इनपुट पहले से ही पूरा हुआ कार्य मान लिया जाए। शुरुआत में क्लिक केवल एक बदलाव उत्पन्न करता है, जिसके प्रभाव की जाँच अभी बाकी होती है।

एक ही कार्रवाई पर चार संभावित प्रतिक्रियाएँ

सर्च शुरू होने के बाद परिणाम दिख सकते हैं, लोडिंग संकेतक दिखाई देता रह सकता है, इनपुट से जुड़ी चेतावनी आ सकती है या कोई तकनीकी त्रुटि बताई जा सकती है। ये स्थितियाँ अलग-अलग अगले कदमों की माँग करती हैं। हर मामले में फिर से क्लिक करना समझदारी नहीं होगी।

परिणामों को सर्च कार्य से मेल भी खाना चाहिए। हो सकता है कि कोई मिलता-जुलता शीर्षक सुझाया गया हो, या सूची अभी भी पिछले इनपुट से संबंधित हो। इसलिए नए अवलोकन को एक बार फिर मूल निर्देश को संदर्भ के रूप में चाहिए। यह चक्र केवल छवि, क्लिक, छवि नहीं है, बल्कि समझना, कार्य करना और प्रभाव को लक्ष्य के सापेक्ष मापना है।

अपने लिए एक हानिरहित अभ्यास के तौर पर आप चारों स्थितियों को स्वयं बनाए गए कार्डों के रूप में तैयार कर सकते हैं। हर कार्ड को एक तर्कसंगत अगली कार्रवाई दें। यह अभ्यास किसी वास्तविक मॉडल रन या किसी पुस्तकालय प्रणाली से कार्यशील कनेक्शन का दावा किए बिना स्थितियों के आधार पर सोचने को समझाता है।

अच्छे इंटरफ़ेस लोगों और एजेंटों दोनों की मदद करते हैं

स्पष्ट फ़ीडबैक लोगों के लिए भी अनिश्चितता कम करता है। “कोई परिणाम नहीं” एक अलग प्रश्न का उत्तर देता है और “सर्च लोड नहीं हो सका” किसी दूसरे का। इसके विपरीत, बिना पहचानने योग्य अंत वाला सजावटी लोडिंग प्रभाव बहुत कम दिशा देता है। डिज़ाइन प्रासंगिक स्थितियों को स्पष्ट रूप से अलग करके अवलोकन चक्र का समर्थन कर सकता है।

किसी एजेंट को लोकली चलाना अपने-आप में डेटा प्रवाह से जुड़े हर प्रश्न का उत्तर नहीं देता। इसी तरह, क्लिकों का एक सफल क्रम अभी सामान्य रूप से विश्वसनीय संचालन को सिद्ध नहीं करता। इन दोनों की जाँच वास्तविक प्रणाली पर करनी होगी।

अन्य संदर्भों में लागू होने वाला विचार सरल है: पुराना स्थान कोई स्थायी अर्थ नहीं है। जैसे ही कोई कार्रवाई इंटरफ़ेस को बदल सकती है, अगले निर्णय को वर्तमान संदर्भ चाहिए। केवल नया अवलोकन ही किए गए कदम को उस परिणाम से जोड़ता है जिसे वास्तव में प्राप्त करना था।

स्रोत और स्थिति

शोध और दस्तावेज़ीकरण 25 अक्टूबर 2026 तक की स्थिति के अनुसार। UI-TARS रिपॉज़िटरी: UI-TARS-2 अपडेट और निर्देशांक प्रोसेसिंग।

हैम्बर्ग हमारा शुरुआती बिंदु है।

उपयोगी ज्ञान आपके साथ चलता है।

हैम्बर्ग से AI का व्यावहारिक ज्ञान, दुनिया के लिए।

सेव किए गए लेख