चैट घोटालों के विरुद्ध एआई: सिंगापुर डिवाइस पर पूरे बातचीत इतिहास की जाँच करता है

पहला संदेश एक साइड जॉब की पेशकश करता है। दूसरा एक कथित रूप से सरल काम समझाता है। बाद में, आपसे अपनी कमाई अनलॉक करने के लिए भुगतान करने को कहा जाता है। कोई भी अकेला मैत्रीपूर्ण वाक्य पूरी प्रक्रिया को स्पष्ट नहीं करता। अर्थ वादे, माँग और धीरे-धीरे बनाए गए समय के दबाव के आपसी संबंध से उत्पन्न होता है।

14 अक्टूबर 2026 को Google DeepMind और GovTech Singapore ने घोटाले की पहचान के लिए एक फ़ाइन-ट्यून किए गए, हल्के Gemma मॉडल पर सहयोग प्रस्तुत किया। इसका उद्देश्य डिवाइसों पर कई चरणों वाली बातचीत को प्रोसेस करना है। घोषणा एक सीमित शोध और विकास दृष्टिकोण का वर्णन करती है, न कि किसी प्रलेखित विश्वव्यापी रोलआउट का। दो स्वतंत्र प्रश्न रोचक हैं: आकलन के लिए किस संदर्भ की आवश्यकता है, और वह संदर्भ कहाँ प्रोसेस किया जाता है?

बातचीत को शब्दों की सूची की तरह नहीं पढ़ा जा सकता

हमारी नौकरी की पेशकश पूरी तरह काल्पनिक है। यह एक विचार-प्रयोग के रूप में काम करती है। “आज शाम तक राशि ट्रांसफ़र कर दीजिए” जैसे किसी अलग-थलग वाक्य को संदर्भ के अनुसार बिल्कुल अलग ढंग से आँका जा सकता है। किसी अपेक्षित इनवॉइस में उसका संदर्भ उस कथित नियोक्ता से आए उसी वाक्य से भिन्न होता है, जिसने पहले भुगतान का वादा किया था।

इसलिए एक बातचीत मॉडल को संबंधों को बनाए रखना होता है: कौन किस भूमिका का दावा करता है? किसी नई माँग को उचित ठहराने के लिए कौन-सा पहले का कथन इस्तेमाल किया जाता है? क्या जानकारी को स्वतंत्र रूप से सत्यापित करने योग्य बनाया जाता है, या उसकी जगह समय का दबाव ले लेता है? ये संदिग्ध शब्दों की सूची खोजने से भिन्न कार्य हैं।

समय का क्रम भी मायने रखता है। बाद की कोई माँग किसी पहले के कथन को नए रूप में दिखा सकती है। इसके विपरीत, किसी हानिरहित अंश को केवल इसलिए संदिग्ध नहीं बन जाना चाहिए कि कहीं कोई अक्सर दुरुपयोग किया जाने वाला शब्द दिखाई देता है। कठिनाई संदर्भ में है, न कि सहेजे गए पाठ की मात्रा में।

चार संदेश एक समझने योग्य शिक्षण ढाँचे के रूप में

अपने स्वयं के संपादकीय अभ्यास के लिए आप एक काल्पनिक बातचीत को चार कार्डों में बाँट सकते हैं। पहले निमंत्रण, फिर वादा किया गया पारिश्रमिक, उसके बाद अग्रिम भुगतान और अंत में किसी से न पूछने का अनुरोध। हर कार्ड के नीचे नोट कीजिए कि वह कौन-सी नई जानकारी जोड़ता है। ये कार्ड मॉडल आउटपुट को नहीं दर्शाते।

सहायक व्याख्या केवल “खतरनाक” नहीं होगी। वह यह इंगित करेगी कि वादा किए गए भुगतान से पहले एक भुगतान माँगा जा रहा है और स्वतंत्र सत्यापन को कठिन बनाया जा रहा है। इससे चेतावनी का संकेत लोगों के लिए समझने योग्य बनता है। ऐसी व्याख्या अभी किसी विशिष्ट प्रेषक की पहचान या इरादों का प्रमाण नहीं है।

तुलनात्मक जाँच के लिए संदर्भ का एक अंश बदलिए: कोई ज्ञात संगठन एक अपेक्षित, स्वतंत्र रूप से सत्यापन योग्य इनवॉइस भेजता है। कौन-सा अवलोकन इस मामले को अलग करता है? यह प्रश्न अभ्यास को केवल किसी विशेष रूप से स्पष्ट कहानी की पुष्टि करने से रोकता है। इससे आपकी अपनी कोई पहचान दर नहीं निकाली जा सकती।

“डिवाइस पर” डेटा पथ के एक हिस्से का वर्णन करता है

स्थानीय प्रोसेसिंग में किसी विशेष घटक की गणना एंड डिवाइस पर हो सकती है। इसका अर्थ यह नहीं है कि पूरा आसपास का एप्लिकेशन बिना नेटवर्क के काम करता है। संदेशों के प्रसारण, अपडेट और अन्य सुविधाओं के अपने-अपने डेटा पथ होते हैं। गोपनीयता के आकलन में वास्तविक सिस्टम को समग्र रूप से देखना होता है।

घोषणा को संदर्भ में रखने के लिए यह अंतर महत्वपूर्ण है। फ़ाइन-ट्यून किया गया मॉडल एक घटक है। एक उपयोगी सुरक्षा सुविधा को इन नियमों की भी आवश्यकता होती है कि किन बातचीतों की जाँच होगी, चेतावनी कब दिखाई देगी और लोग उस पर कैसे प्रतिक्रिया दे सकते हैं। इनमें से कोई भी प्रश्न केवल एक छोटे मॉडल से हल नहीं होता।

फ़ीडबैक को अनिश्चितता नहीं छिपानी चाहिए

एक अच्छी चेतावनी देखे गए पैटर्न को समझाती है, बिना यह बढ़ा-चढ़ाकर बताए कि वह क्या जानती है। चेतावनी का न होना यह सिद्ध नहीं करता कि बातचीत हानिरहित है। इसी तरह, कोई संदिग्ध दिखने वाली बातचीत अपने आप किसी व्यक्ति पर अंतिम निर्णय नहीं है। समझने योग्य अनिश्चितता यहाँ इंटरफ़ेस का हिस्सा है।

इसलिए यह तकनीकी समाचार ठीक अपनी सीमाओं के कारण रोचक है: बातचीत के संदर्भ को एक विशिष्ट कार्य के लिए डिवाइसों पर उपयोगी बनाने का इरादा है। आपके अपने निर्णयों के लिए जाँच का एक स्वतंत्र तरीका महत्वपूर्ण बना रहता है। माँग को अब तक की बातचीत के साथ मिलाकर पढ़िए और दावा की गई भूमिका को अपने द्वारा चुने गए संपर्क माध्यम से सत्यापित कीजिए। यह एक व्यावहारिक कदम है, तब भी जब कोई एआई अतिरिक्त चेतावनी नहीं देता।

स्रोत और स्थिति

25 अक्टूबर 2026 तक का शोध और दस्तावेज़ीकरण। Google DeepMind और सिंगापुर सरकार घोटाले की पहचान के लिए फ़ाइन-ट्यून किया गया एआई मॉडल बनाने हेतु सहयोग करते हैं।