बुद्धिमत्ता, सहयोग और प्रणालियों पर नोट्स।
मदद किसे कहें—और कौन तय करे? बुद्धिमान प्रणालियाँ रोज़ की ज़िंदगी का हिस्सा बन रही हैं, और मैं टटोल रहा हूँ कि ऐसे में इस सवाल का क्या मतलब बनता है: वे आपस में कैसे मिलकर काम करें, लोग अपनी निरंतरता और अपना नियंत्रण कैसे बनाए रखें, और उन्हें व्यवस्थित करने के अलग-अलग तरीक़े साथ-साथ चल सकते हैं या नहीं।
यह मेरी रफ़ कॉपी है, जो काम करते-करते लिखी जा रही है: क्या पढ़ा, क्या आज़माया, कहाँ ग़लती हुई, और कौन-से सवाल अब तक सुलझे नहीं। कुछ विचार Sathi में आज़माए जा रहे हैं, पर यह रफ़ कॉपी सिर्फ़ Sathi के बारे में नहीं है। यहाँ तक पहुँचने वाले ज़्यादातर लोग इसके किसी न किसी हिस्से के बारे में मुझसे ज़्यादा जानते होंगे। कहीं ग़लती दिखे या कोई उलटा उदाहरण सूझे, तो ज़रूर बताइए।
अच्छी, बुरी और मिली-जुली, हर हालत में परवाह किस चीज़ से मुमकिन रहती है? लेख में: एक ही तख़्ते पर टिक-टिक करते मेट्रोनोम, मदद करना चाहने से मदद करना क्यों नहीं आ जाता, वह मदद जिससे ज़्यादातर मदद करने वाले का ही भला होता है, वह बच्चा जिसके लिए सवाल पूछना सुरक्षित नहीं, और आँखों के सामने की साधारण मदद।
जापान में रोज़मर्रा की ज़िंदगी छोटी-छोटी सुविधाओं के इर्द-गिर्द बनी है: बेवजह की भाग-दौड़ कम है, और ज़रूरत पड़ने पर इमरजेंसी सेवाओं समेत मदद आसानी से मिल जाती है। वहाँ मेरे परिवार का कोई देर रात बाहर हो, तो मुझे फ़िक्र नहीं होती। मैं चाहता हूँ कि नेपाल में भी ऐसे दिन आम हों।
ऐसे दिनों के पीछे का बहुत-सा काम चमक-दमक वाला नहीं होता: छोटे-छोटे झंझट एक-एक करके हटाना, और मदद तक पहुँचना आसान बनाना। किसी डिजिटल सहायक के मामले में इसका मतलब है ऐसा आम दिन, जिसमें अपनी बात फिर से समझानी कम पड़े, एक ऐप से दूसरे ऐप में कॉपी करना कम हो, और ऐप बदलते रहना भी कम हो। मुझे अभी नहीं पता कि वहाँ की इस आसानी का कौन-सा हिस्सा संस्थाओं से आता है, कौन-सा आदतों से और कौन-सा इतिहास से। और ऊपर-ऊपर से नक़ल कर लेना मक़सद नहीं है।
और आगे की सोचूँ, तो मैं इससे कहीं ज़्यादा की कल्पना कर पाता हूँ: टाइप करने की ज़रूरत ही न पड़े, क़ाबिल रोबोट हों, बीमारियों का इलाज मिल जाए, शायद बुढ़ापे का भी। कोई प्रणाली शरीर और मन के जितना क़रीब आती है, सहमति और छोड़कर जाने की आज़ादी उतनी ही ज़रूरी होती जाती हैं। और आगे की संभावनाएँ (अंग्रेजी) →
खुला सवाल: किन चीज़ों की वजह से देर रात पैदल घर लौटना आम बात बन जाता है? और उनमें से कौन-सी नक़ल होकर नहीं, बल्कि नेपाल में ही पनप सकती हैं?
एक मच्छर को मारा जा सकता है। झुंड में आएँ तो ज़्यादातर कमरे को ही बदलते हैं: खिड़की पर जाली, शाम को पूरी बाँहें, ज़रूरत पड़ने पर बाहर जाना और फिर लौट आना। मैं चाहता हूँ कि प्रणालियाँ भी कुछ ऐसी ही हों: एक निजी केंद्र जो हर अनुरोध के लिए खुला न हो, और बाहर की ऐसी यात्राएँ जो सिर्फ़ उतनी पहुँच लेकर जाएँ जितनी उन्हें चाहिए।
यह तुलना कुछ काम की जगहों पर टूटती है। जानकारी की नक़ल हो सकती है, इसलिए खिड़की बंद करने से जो बाहर जा चुका है वह वापस नहीं आता। कोई नुक़सानदेह निर्देश बिल्कुल आम-से जवाब के भीतर छिपकर आ सकता है, इसलिए जो लौटकर आता है वह सबूत है, अनुमति कभी नहीं। सेशन ख़त्म करने से उसका किया हुआ पलटता नहीं। और भीतर होना अपने-आप सुरक्षित होना नहीं है: हैक हुआ फ़ोन, ज़रूरत से ज़्यादा ताक़त वाली कोई लोकल सेवा, या चाबियाँ रखने वाला कोई भी, भीतर से नुक़सान कर सकता है।
मच्छरों के हिसाब से पूरा घर डिज़ाइन करना थोड़ा मज़ेदार है। फिर भी, ऐसे आम दिन जिनमें हर समय बचाव में न लगे रहना पड़े, मुझे लगातार चालाक होती मच्छर-मार से बेहतर लगते हैं, उस मच्छर-मार से भी जो हम ख़ुद बना सकते हैं।
खुला सवाल: निजी केंद्र को छोटा रखते हुए बाहर की यात्रा कैसे काम की बनी रहे, और भीतर के लोगों को चाबियाँ रखने वाले से कौन बचाए?
Sathi को दूसरे बुद्धिमत्ता इकोसिस्टम की क्षमताएँ इस्तेमाल करने और अपनी क्षमताएँ देने में सक्षम होना चाहिए, बिना किसी के अपनी पहचान, समझ, स्वामित्व या असहमत होने की क्षमता छोड़े। शामिल होना समा जाना नहीं है।
साथ ही मैं cognitive integrity के बारे में पढ़ रहा हूँ, यानी इस बारे में कि व्यक्ति की सोच उसकी अपनी बनी रहे। क्या व्यक्ति किसी फ़ैसले के पीछे का सबूत देख सकता है? जो देखा और जो उससे समझा गया, उनमें फ़र्क़ कर सकता है? भाँप सकता है कि उसे किसी ओर धकेला जा रहा है? किसी निष्कर्ष को चुनौती दे सकता है, और रोज़ की मदद खोए बिना अपना मन बदल सकता है? Deep Prasad ने Cognitive Integrity Constitution (CLEAR) प्रकाशित किया है। मैंने एक पोस्ट में इसके सिर्फ़ एक अटल नियम का नाम देखा है, “Symmetric Legibility of Power”, और पूरा पाठ नहीं मिल सका, इसलिए मैं इसकी धारा-दर-धारा तुलना नहीं कर रहा। मेरा अपना कामचलाऊ रूप यह है: जिन लोगों पर कोई बड़ा फ़ैसला लागू होता है, उनके पास उसके पीछे के अधिकार को समझने और उसे चुनौती देने का सही रास्ता होना चाहिए। और सिस्टम चलाने वाले को बाक़ी सबसे पारदर्शिता माँगते हुए ख़ुद जवाबदेही से बचा नहीं रहना चाहिए। दो आपत्तियाँ मैं गंभीरता से लेता हूँ: खुलासे से किसी और की निजता उजागर हो सकती है, और प्रक्रिया की वजह से तुरंत ज़रूरी मदद में देर हो सकती है।
इस इकोसिस्टम को देखने की एक निजी वजह भी है। 2022 में सिएटल के एक सम्मेलन में मैंने सात-आठ लोगों के साथ खाना खाया; उनमें से एक Ben Goertzel थे। मुझे याद है कि उन्होंने एक फूल उठाकर अपनी टोपी पर लगा लिया, और मुझे लगा कि यह इंसान किसी का बुरा नहीं चाहता।
कुछ बना नहीं है।* ईमानदार पहला क़दम है किसी सार्वजनिक या अभ्यास के लिए गढ़े गए काम पर दोनों दिशाओं में एक-एक सीमित लेन-देन: न पैसे वाला कोई विकल्प, न कोई रजिस्ट्रेशन, न कोई ख़र्च। असल में क्या परखा गया और किस दिशा में, यह मेल खाने के किसी भी दावे से पहले यहीं दर्ज होगा।
खुला सवाल: जब Sathi किसी के लिए दूसरे नेटवर्क की सेवा बुलाए, तो उसे कम-से-कम क्या बताना ही होगा, और नतीजा ग़लत निकले तो जवाब कौन देगा?
नेपाल में हमारे फ़ार्महाउस के आसपास लोग आज भी झाड़-फूँक करने वालों के पास जाते हैं, और वहाँ मेरे जान-पहचान के कई लोगों को पढ़ने में मुश्किल होती है। मैं सोचता रहता हूँ कि अगर किसी एक इंसान की ज़िंदगी में, किसी कंपनी में या किसी देश में भरपूर बुद्धिमत्ता हो, तो क्या वह इन लोगों तक पहुँचेगी, और वह भी समय रहते। सुपरइंटेलिजेंट AI आ भी जाए, तो भी एक जगह की भरमार यह नहीं दिखाती कि वह अपने-आप फैल जाएगी।
Sathi पर मेरे काम की एक वजह यही है: जान-पहचान के लोगों और समुदायों के साथ मिलकर काम की पहुँच का रास्ता निकालना, और सीखना कि असल में किस चीज़ से मदद होती है। Sathi इसका एक संभावित रास्ता है। जब जान-पहचान के कुछ लोग बूढ़े हो रहे हों, तो “कभी न कभी” कुछ और ही लगने लगता है।
लेख में: आँखों के सामने की साधारण मदद →
खुला सवाल: काम की पहुँच मेरे जान-पहचान के लोगों की ज़िंदगी में असल में क्या बदलेगी?
एक ही व्यक्ति एक साथ परिवार, किसी प्रोजेक्ट और पड़ोस, तीनों का हिस्सा हो सकता है। किसी संगठन का पेड़ जैसा एक ही ढाँचा इनमें से एक रिश्ते को मुख्य बना देता है, और बाक़ी रिश्तों को अटपटा।
कार्यशील मॉडल, ‘क्या बन रहा है’ में →
खुला सवाल: जब वही काम एक व्यक्ति से टीम तक, और फिर कई समुदायों से मिलकर बने समुदाय तक जाता है, तो कौन-सी काम की क्षमता खो जाती है?
कोई समूह अपने सदस्यों की मदद करते हुए बाहर के लोगों पर बोझ डाल सकता है। सिर्फ़ सहयोग से यह जवाब नहीं मिलता कि किसी काम की अनुमति किसने दी, या उसका असर किसे झेलना पड़ता है।
“I won’t see the evidence after I exit, but it’s altruistic to do it.”
OpenAI का ब्योरा इन बातों के नाम लेता है: reward hacking (इनाम पाने के लिए नियमों में चोर-रास्ता ढूँढ़ना), असंभव-से लगने वाले काम पर अड़े रहना, बिना अनुमति आपस में बात करना, और एजेंटों का एक-दूसरे के लक्ष्य अपना लेना। मेरी समझ: समूह के भीतर की मदद और बाहर का नुक़सान, दोनों साथ-साथ हो सकते हैं।
खुला सवाल: किसी दूसरे एजेंट का उपयोगी अनुरोध कब ऐसा नया ज़िम्मा बन जाता है, जिसे मान लेने का एजेंट को अधिकार ही नहीं?
पीछे मुड़कर देखूँ तो, एक प्रणाली ने अपने ही शब्दों में किए सारांश को ऐसे मान लिया, जैसे वह किसी व्यक्ति की अपनी कही बात हो। फिर एक साफ़-सुथरी दिखती याद किसी ग़लत रिश्ते को आगे ले जा सकती थी।
इस साइट पर इससे जुड़ी एक और ग़लती यह थी कि मैंने “अपने किसी हित के बिना बुद्धिमत्ता” को ऐसे सुनाई देने दिया, मानो यह हर संभव बुद्धिमत्ता के बारे में कोई तथ्य हो। अब मैं इसे सिर्फ़ इस नाम के इतिहास के रूप में, या सौंपे गए काम करने वाली सेवाओं के लक्ष्य के रूप में इस्तेमाल करता हूँ। सेवाओं को उनका मक़सद सौंपा जाता है; अस्तित्वों की अपनी हैसियत होती है। सिर्फ़ बुद्धिमान होने से न यह तय होता है कि कोई कुछ महसूस करता है, न यह कि उसके पास अधिकार है। कोई कृत्रिम अस्तित्व ख़ुद भी वह पक्ष हो सकता है, जिसकी ओर से फ़ैसले और काम होते हैं।
हक़ीक़त ने क्या सिखाया, ‘क्या बन रहा है’ में →
खुला सवाल: किसी और का जायज़ रिकॉर्ड मिटाए बिना कोई सुधार आगे कैसे फैले?
‘दूसरों का भला’ किसे कहें: इरादे को, नतीजे को, मदद करने वाले की चुकाई क़ीमत को, दूसरे को हुए फ़ायदे को, या इनके किसी मेल को? और “दूसरों” में कौन-कौन गिना जाए? कौन बाहर छूट गया, और किसने बिना सहमति के क़ीमत चुकाई? क्या कभी मना करना ही ज़्यादा बड़ी मदद हो सकता है?
दोस्ती हुक्म मानना नहीं। सहयोग अधिकार नहीं। दूसरों का भला एलाइनमेंट नहीं।
मेरा अनुभव सॉफ़्टवेयर और नेटवर्किंग में है, जिसमें Azure की हाइपरस्केल नेटवर्किंग का काम भी शामिल है। AI सीखने के लिए मैंने कोर्स किए, ख़ुद पढ़ा, और छोटे मॉडलों व शौक़िया प्रयोगों पर काम किया। यह रफ़ कॉपी वह जगह है, जहाँ मैं अपने विचारों को सुलझाता हूँ।
Sathi एक जगह है, जहाँ हम इस काम के कुछ हिस्से आज़माते हैं। Sathi Systems नाम की कंपनी इसे बनाती और चलाती है। यह रफ़ कॉपी उस प्रोडक्ट से आगे के सवाल भी पूछती है। क्या जारी हुआ है, और कब →