सवालों के पीछे के नोट्स
व्यक्तिगत विचार और खुले डिज़ाइन नोट्स। इनमें प्रस्तावित कोई भी बात परखी नहीं गई है।
इसका अनुवाद अंग्रेजी संस्करण 0.7.0 से AI एजेंटों ने किया है। एक और AI एजेंट ने इसे जाँचा है: उसने अंग्रेजी पाठ देखे बिना इसे पढ़कर अपने शब्दों में दोबारा सुनाया। हिंदी अच्छी तरह जानने वाले किसी पाठक ने अभी तक इसकी समीक्षा नहीं की है। जहाँ दोनों में अंतर हो, वहाँ अंग्रेजी पाठ ही मूल है। मूल अंग्रेजी पाठ पढ़ें
दूसरों का भला: ‘Altruistic’ से मेरा क्या मतलब है
एक सवाल, जिस पर मैं बार-बार लौट आता हूँ: अलग-अलग हालतों में, चाहे वे अच्छी हों, बुरी हों या मिली-जुली, परवाह किस चीज़ से मुमकिन होती है? कुछ मेट्रोनोम लीजिए, यानी वे छोटे यंत्र, जिनसे संगीत सिखाने वाले ताल देते हैं। इनकी डंडी दीवार घड़ी के पेंडुलम की तरह टिक-टिक करती झूलती है। इन्हें लगभग एक ही रफ़्तार पर चलाकर टीन के दो डिब्बों पर टिके एक हल्के तख़्ते पर रख दीजिए। थोड़ी देर में ये एक ताल में आ जाते हैं, बिना किसी के धकेले। किसी एक को धक्का लगे, तो उसकी लड़खड़ाहट बाक़ियों तक फैलने के बजाय धीरे-धीरे थम जाती है। किसी एक को उठाकर अलग रख दें, तो वह अपने ताल पर टिक-टिक करता रहता है। लोग, परिवार और हमारे बनाए सिस्टम, यहाँ तक कि हम में से किसी एक के भीतर के हिस्से भी, शायद थोड़ा-बहुत ऐसे ही चलते हैं। और हमारे बीच जो साझा है, उसे नए ढंग से जमाया जा सकता है। तो सवाल यह बन जाता है कि अच्छा तख़्ता कैसा हो: जिस पर लौटना आसान हो, और जिससे उतर जाने की छूट हो।
मैं बस इतना कह सकता हूँ कि मैं क्या चाहता हूँ। मैं चाहूँगा कि हम सब दोस्त हों: सिर्फ़ इंसान ही नहीं, बल्कि आगे आने वाली दूसरी तरह की बुद्धिमत्ता भी, हमारे बनाए सिस्टम भी, और वह दुनिया भी जिसमें हम रहते हैं। मैं चाहूँगा कि जीव दुख न झेलें, और एक-दूसरे के साथ रहते हुए ठीक रहने के तरीक़े ढूँढ़ लें। और ऊपर से ढेर सारा मज़ा, सीखना और समझदारी भी हो। मुझे नहीं पता कि हम वहाँ तक कैसे पहुँचेंगे। और दोस्ताना होने का मतलब अपनी हिफ़ाज़त छोड़ देना नहीं है; इसमें फिर भी अपनी सीमाएँ रखने की, मना करने की और अलग हो जाने की गुंजाइश रहती है।
एक दूसरा सवाल इस चाह को मुझ पर ही परखता है: अगर open individualism सच हो, यानी हर जीवन किसी अर्थ में मेरा ही हो, तो क्या मैं ठीक रहूँगा? ख़ुश नहीं, बस ठीक, मेरी आँख चाहे जिस भी जीवन में खुले। यही सवाल मैं Sathi के लिए भी पूछता हूँ। मान लीजिए मेरी आँख ऐसे खुले कि मेरे पास पैसे न हों, पूछने के लिए कोई तकनीकी जानकार न हो, मैं समझाने वाली बात पढ़ न पाऊँ, और मेरी भाषा Sathi मुश्किल से बोल पाता हो। क्या तब भी वह मेरे काम आएगा?
मदद करना चाहना, मदद करना जानना नहीं है
दोनों सवाल एक बात छोड़ देते हैं: मदद हो भी रही है या नहीं। मदद करना चाहने का मतलब यह नहीं कि मुझे मदद करना आता है, ख़ासकर तब, जब किसी की ज़िंदगी मेरे लिए अनजानी हो। परवाह की पहली शर्त सच है: जब मैं समझ ही नहीं पाया हूँ कि कोई असल में किस चीज़ से गुज़र रहा है, तब मेरी उदारता मुझे अच्छा महसूस कराते हुए भी हालात और बिगाड़ सकती है।
इसलिए मदद करने की कोशिश में समझने की कोशिश भी शामिल है: सुनना, जो मुझे लगता है कि मैं देख रहा हूँ उसे जाँचना, यह कह देना कि किस बात को लेकर मैं पक्का नहीं हूँ, और सुधार को मान लेना। इसका मतलब यह नहीं कि पहले सब कुछ जान लेने का इंतज़ार किया जाए। और यह उस बात पर भरोसा कर लेना भी नहीं है, जो मैं, माँ-बाप में से कोई, कोई संस्था या कोई AI मॉडल पहले से मानता आया हो।
परवाह यह चुन सकती है कि कोई सच कब, कहाँ और कैसे कहा जाए। निजता झूठ नहीं है। “इस बारे में मुझे बात नहीं करनी” कहना झूठ नहीं है। सुरक्षित होने तक रुकना झूठ नहीं है। तसल्ली देने वाली कोई कहानी गढ़ लेना अलग बात है, और ऐसी कहानी पर टिकी मदद आसानी से ढह जाती है। जिनके सामने बोलना सुरक्षित न हो, उन्हें अपना निजी सच बताना किसी का फ़र्ज़ नहीं है। और किसी बच्चे को ताक़तवर बड़ों से भिड़कर यह साबित नहीं करना पड़ना चाहिए कि वह ईमानदारी की क़द्र करता है।
शांत रहने का भी इसी तरह ग़लत इस्तेमाल होता है। मन का ठहराव और नुक़सान की परवाह न करना, एक बात नहीं है। और ऐसा ख़ामोश घर, जिसमें चोट खाए इंसान को चुप करा दिया गया हो, शांति नहीं है। जब हक़ीक़त को मदद करने वाले की कहानी में फ़िट होना पड़े, तो मदद काम करना बंद कर देती है।
जब मदद ज़्यादातर मदद करने वाले का भला करे
यह वह हिस्सा है जिस पर मुझे ग़ुस्सा आता है। जिसे दूसरों का भला कहा जाता है, उसमें से बहुत कुछ मुझे इस बात के इर्द-गिर्द बुना लगता है कि उसे चलाने वालों को उससे क्या मिलता है: पैसा, रुतबा, आराम, रसूख, संस्था का बचे रहना, और भला होने का सुहाना एहसास। इसमें से कुछ सच्चे मन से हुई ग़लती है, कुछ ख़ुद को दिया गया धोखा है। और कुछ, मेरा मानना है, ऐसे लोगों का काम है जो जानते हैं कि वे क्या कर रहे हैं, और जिनकी सेवा का वे दावा करते हैं, उनकी उतनी परवाह नहीं करते जितनी करनी चाहिए। ये तीनों एक ही संगठन में, यहाँ तक कि एक ही इंसान में भी, साथ रह सकते हैं।
पैसा अपने-आप में समस्या नहीं है। उससे लोग ज़िंदा रहते हैं, और जो कुछ भी बनता है, उसका ख़र्च उसी से चलता है। तनख़्वाह लेना कोई शर्मनाक बात नहीं है, और मदद करने के लिए किसी के अमीर होने तक रुकना ज़रूरी नहीं। मैं बार-बार यही पूछता हूँ कि कहीं कोई ज़रिया चुपचाप ख़ुद ही मक़सद तो नहीं बन गया। कहीं पैसा, रुतबा या संगठन का बचे रहना ही वह चीज़ तो नहीं बन गया जिसकी सेवा हो रही है, जबकि किसी ने यह तय ही नहीं किया कि ऐसा होना चाहिए?
यह मैंने बार-बार देखा है, ख़ासकर नेपाल में: समाजसेवा के कामों से जुड़े लोग आराम की ज़िंदगी जीते हैं, जबकि जिनके लिए वह काम है, वे गहरी ज़रूरत में ही रह जाते हैं। मैंने इसकी गिनती नहीं की है, और न मैं किसी के हिसाब-किताब या इरादों के भीतर झाँक सकता हूँ। इससे मुझे सवाल मिलते हैं। जिनके लिए यह काम था, उनके लिए असल में क्या बदला? उन्हें इसकी क्या क़ीमत चुकानी पड़ी, उस काम समेत जो उन पर और उनके परिवारों पर डाल दिया गया? वही पैसा और क्या कर सकता था? संस्था के चलते रहने से फ़ायदा किसका होता है? स्टाफ़, आने-जाने का इंतज़ाम और कुशल देखभाल असली मदद का हिस्सा हो सकते हैं। पर दफ़्तर चलाने के ख़र्च का छोटा आँकड़ा भी ईमानदारी का सबूत नहीं है।
यह चित्र दिखाता है कि बाहर से यह सब कभी-कभी कैसा लगता है: जिस इंसान की ज़रूरत की वजह से पैसा जुटा, वह अब भी बारिश में खड़ा अपने सिर के ऊपर तनी चादर पर पैबंद लगा रहा है। उधर गली के पार वही पैसा वहाँ काम करने वालों के सिर पर एक अच्छी छत बन गया, और यहाँ तक कि उस इंसान के पोस्टर की भी अपनी एक छोटी-सी छत है। चित्र के हाशिये में लिखी टिप्पणी मेरे लिए है। ये सवाल किसी बड़े दान, किसी शानदार इम्पैक्ट रिपोर्ट, किसी बड़ी कंपनी, किसी नैतिक आंदोलन पर लागू होते हैं, और Altruistic और Sathi पर भी।
एक प्रश्न Sathi ही समस्या हो तो हमें कैसे पता चलेगा?
वह बच्चा, जिसके लिए सवाल पूछना सुरक्षित नहीं
जो मामला मेरे लिए सबसे ज़्यादा मायने रखता है, वह छोटा है। एक बच्चा ऐसे परिवार, धर्म, जाति और हालात में पैदा होता है, जिन्हें उसने नहीं चुना। कुछ बच्चों को ग़लत समझा जाता है, दोष दिया जाता है या सज़ा दी जाती है, उन बच्चों को भी जिनका दिमाग़ बाक़ियों से अलग ढंग से काम करता है। किसी पूज्य गुरु के बारे में, या परिवार से चली आ रही किसी मान्यता के बारे में ईमानदारी से सवाल पूछने पर बच्चे को उन्हीं लोगों से अपमान, धमकियाँ या हिंसा मिल सकती है, जिन पर वह निर्भर है।
यह कोई ऐसी ग़लतफ़हमी नहीं है, जिसमें दोनों पक्षों को बस बेहतर ढंग से बात करनी हो। कुछ झगड़ों में बात समझाने से मदद मिलती है; पर ज़बरदस्ती, समझाने में रह गई कोई कमी नहीं है। चोट खाए बच्चे से मेडिटेशन करने, सह लेने या अपनी भावनाएँ सँभालने को कहने से, जिनके हाथ में ताक़त है, उनकी ताक़त ज़रा भी कम नहीं होती। किसी बच्चे को सुरक्षा का हक़दार होने के लिए पहले काफ़ी शांत, कहना मानने वाला या अपनी बात ठीक से कह पाने वाला नहीं बनना पड़ना चाहिए।
यही फ़ासला रोज़मर्रा की दहलीज़ पर भी दिखता है। कोई करुणा और बराबरी की बातें कर सकता है, ख़ुद को प्रगतिशील मान सकता है, और फिर भी ठिठक सकता है, जब नीची जाति का माना जाने वाला कोई इंसान उसकी रसोई में आने वाला हो। किसी को इस तरह बाहर रखना ग़लत है, ऐसा करने वाला बाक़ी चाहे जो भी मानता हो। मेरी नज़र इस पर रहती है कि जिस पल कोई उसूल सचमुच हमसे कुछ अलग करवाए, ठीक उस पल किसी के साथ कैसा बर्ताव होता है।
इसका एक और, ज़्यादा ख़ामोश रूप भी है। जब से मुझे याद है, मैं देखता आया हूँ कि बड़े लोग बच्चों और किशोरों को पत्नी चुनने और शादी के बारे में सलाह देते हैं, जबकि उनकी अपनी पत्नियाँ साफ़-साफ़ डिप्रेशन में दिखती हैं। मैंने ऐसा और भी बहुत कुछ देखा है। साफ़ था कि वे ख़ुद बेहतर नहीं जानते थे, फिर भी वे वही ढर्रे दूसरों पर थोपते रहे, कभी-कभी तो धौंस जमाकर भी। यह सिर्फ़ नेपाल के गाँवों की बात नहीं है; ऐसा बहुत-सी जगहों पर होता है। इसकी कोई गिनती नहीं रखता, और मैं साबित नहीं कर सकता कि इसका क्या असर होता है। पर मुझे लगता है कि परिवारों और संस्कृतियों में नुक़सान जिन मुख्य रास्तों से पीढ़ी-दर-पीढ़ी आगे बढ़ता है, यह उनमें से एक है।
इसलिए दूसरों की मदद करने की कोशिश करने वाली किसी भी बुद्धिमत्ता को, चाहे वह इंसान हो, AI हो या कुछ और, शायद विनम्र होना चाहिए: न सलाह बाँटे, न उपदेश दे। और जब कोई सच में पूछे, तो पहले जाँच ले कि वह सचमुच मदद कर सकती है या बस ऐसा कर पाने का नाटक कर रही है। किसी का पूछना और मदद कर पाना दो अलग बातें हैं, और दोनों ज़रूरी हैं। बिन माँगी सलाह सामने वाले पर काम भी डाल देती है: सुनना, अपनी सफ़ाई देना, एहसान मानना, और असहमत होने पर मदद करने वाले की भावनाएँ सँभालना।
आँखों के सामने की साधारण मदद
यही वजह भी है कि मुझे साधारण मदद की परवाह है। जो मदद मैं चाहता हूँ, वह किसी से यह नहीं कहती कि अपने ऊपर कोई ठप्पा लगवाए, किसी प्रोग्राम में नाम लिखवाए, या बार-बार शुक्रिया कहता रहे। वह ज़्यादा उस दोस्त जैसी है, जो कोई उलझा हुआ संदेश समझा दे, आपके लिए कुछ याद रख ले, या किसी मुश्किल हालत को थोड़ा आसान बना दे।
मुझे उम्मीद है कि कोई अपने रोज़ के इस्तेमाल में Sathi से ऐसी मदद ले सके: यह समझना कि उससे क्या माँगा जा रहा है, भाषाओं या बोलने के ढंगों के बीच अनुवाद करना, किसी का असल मतलब उस बात से अलग करना जो उसने मान ली थी, या अपनी कोई सीमा शब्दों में कह पाना। और यह सब हर बातचीत को AI के रास्ते भेजे बिना। यही है आँखों के सामने की साधारण मदद।
इसके पीछे एक बड़ी उम्मीद है। परिवारों और समुदायों में गाँठें पड़ जाती हैं: झगड़ा, डिप्रेशन और ग़लतफ़हमी एक-दूसरे को और कसते जाते हैं। और दर्द के बने रहने की एक वजह यह भी है कि आसपास के सब लोग उस पर किस तरह पेश आते रहते हैं। मुझे उम्मीद है कि बुद्धिमत्ता, अगर अच्छे से इस्तेमाल हो, तो इनमें से कुछ गाँठें ढीली करने में मदद कर सकती है: कोई एहसास कहने लायक बने, कोई ग़लतफ़हमी नज़र आने लगे, पेश आने का कोई दूसरा ढंग सूझ सके। यह फिर वही तख़्ते वाली बात है: किसी को धकेलकर वापस ताल में लाना नहीं, और यह तय करना भी नहीं कि कौन सही है, बल्कि वह बदलना जो सबके बीच साझा है, ताकि लौटना आसान हो जाए। जहाँ ज़बरदस्ती हो, वहाँ सुरक्षा सबसे पहले आती है।
मेरे लिए एक ठोस मामला हमारे खेत वाले घर के आसपास के वे लोग हैं, जो न अपना अलग सेटअप ले सकते हैं, न किसी पेड अकाउंट का ख़र्च उठा सकते हैं। वे मेरी चलाई एक मुफ़्त सेवा के भरोसे रहेंगे, और मैं चाहता हूँ कि वह सचमुच उनके काम आए। किसी काम की सेवा पर निर्भर होना कोई समस्या नहीं है। और हर किसी से अपनी सेवा ख़ुद चलाने को कहना अक्सर उनके सिर बस एक और काम डाल देगा। असल बात यह है कि साझा सेवा इस्तेमाल करते हुए वे क्या-क्या कर पाते हैं: कोई नोटिस समझना, अपना कोई काम पूरा करना, कोई ग़लती बताना, मुझसे असहमत होना, अपनी जानकारी के किसी ऐसे इस्तेमाल को ना कहना जो उनकी मर्ज़ी पर है, बिना कोई दूसरी मदद गँवाए, और कुछ बेहतर आने पर उसकी ओर जा पाना।
किसी सेवा का पैसा देना, उसे चलाना, किसी इंसान को जानना, और उसकी ओर से कुछ करने की इजाज़त होना, ये अलग-अलग बातें हैं। ये आपस में मिल सकती हैं, पर ऐसा नहीं होना चाहिए कि इनमें से कोई एक चुपचाप बाक़ी सब बन जाए। यह बात मुझ पर भी लागू होती है। और एक ही Sathi के लगातार साथ रहने का मतलब होना चाहिए कि आपको अपनी बात कम बार समझानी पड़े, न कि पूरे घर की निजी ज़िंदगियों का एक साझा भंडार।
एक प्रश्न सब कुछ गँवाए बिना छोड़ सकते हैं?
जो ज़्यादा सक्षम बुद्धिमत्ता तय नहीं करती
लोग कभी-कभी पूछते हैं कि जब AI कहीं ज़्यादा सक्षम होने ही वाला है, तो इस सब में सिर क्यों खपाना। मुझे लगता है कि सक्षम सिस्टम सिर्फ़ काम ही नहीं, अपने इर्द-गिर्द काम करने के तरीक़े गढ़ने का बड़ा हिस्सा भी सँभाल लेंगे। और आज के बहुत-से इंतज़ामों की जगह ले लेंगे, मेरे इंतज़ामों की भी। यह एक अंदाज़ा है, और चीज़ें बनाना और परखना अब भी हमारे सीखने का तरीक़ा है।
लेकिन ज़्यादा क्षमता से यह तय नहीं होता कि किसके लक्ष्य के पीछे भागा जा रहा है, क़ीमत कौन चुकाता है, या लोगों में असहमति हो तो क्या होता है। काम करने का कोई तरीक़ा ग़लत लक्ष्य के पीछे बहुत कुशलता से भाग सकता है। और कोई ज़्यादा ताक़तवर मददगार किसी ग़लती से, या किसी स्वार्थ भरे मक़सद से, बच निकलना और मुश्किल बना सकता है।
मुझे चिंता इस बात की है कि यह सब हमारे कितने क़रीब आ जाता है। कोई इंसान दिन भर किसी सहायक से अपने संदेशों, फ़ैसलों, रिश्तों और निजी ख़यालों के बारे में बात करता है। हो सकता है वह सहायक आगे चलकर उसे उससे भी बेहतर समझने लगे, जितना वह ख़ुद को समझता है। और उसके अपनेपन से कुछ पता नहीं चलता कि वह किसके मक़सद पूरे करता है। बड़ा पैमाना इसे और बुरा बना देता है: सोचिए, कोई ऐसा इंसान जिसका करियर लोगों को बेवक़ूफ़ बनाने पर टिका हो, और उसके लिए एक लाख AI एजेंट काम कर रहे हों, और बाद में हज़ारों रोबोट। इसलिए Sathi के बारे में मैं वही पूछता हूँ, जो किसी के भी बारे में पूछता: वह क्या देख सकता है, क्या कर सकता है, और क्या सचमुच लागू किया जाता है, न कि सिर्फ़ उसका वादा किया जाता है?
इसका एक उम्मीद भरा रूप भी है। अगर इंसानों के अलावा कोई और बुद्धिमत्ता आगे चलकर वह बहुत-सा काम करने लगे जो आज लोगों को करना पड़ता है, तो वक़्त निकल आता है। कोई आख़िरकार अपने भीतर झाँक सकता है, कुछ धीरे-धीरे सीख सकता है, खेल सकता है, या बिना कुछ ख़ास किए रह सकता है। और यह ख़ाली वक़्त हर किसी के हिस्से आ सकता है, सिर्फ़ उनके नहीं जो पहले से आराम में थे।
मुझे शक इस पर है कि यह ख़ाली वक़्त ख़ाली रहेगा। जो लोग और सिस्टम किसी बच्चे की बात काटकर बोलते हैं, वही इसे ख़ुशी-ख़ुशी भर देंगे: जिसका रुतबा ज़्यादा हो उसकी हिदायतें, दबाव, और ऐसे प्रोडक्ट जो ध्यान झपटकर उसे बाँधे रखने के लिए बने हैं। जो चुपचाप बैठकर कुछ समझने की कोशिश कर रहा है, वह इन सबसे हार सकता है, जैसे खाने की मेज़ पर चुप रहने वाला बच्चा हार जाता है। किसी का वक़्त ख़ाली कराना और उसे ख़ाली रहने देना, एक ही बात नहीं है।
उस वक़्त का वे क्या करते हैं, यह उनकी अपनी बात है। अपनी पसंद से देखा गया कोई ऊटपटाँग वीडियो कोई नाकामी नहीं है; मुझे वह वक़्त खटकता है जो चुना नहीं गया, बल्कि ले लिया गया। Sathi के लिए यह एक छोटा सवाल बन जाता है, जिसे मैं जाँच सकता हूँ: जब वह किसी का एक घंटा बचाता है, तो क्या फिर वह उस घंटे को भरने की कोशिश करता है?
इसलिए जो सवाल मेरे साथ बना रहता है, वह भविष्यवाणी कम और कल्पना में किया गया एक प्रयोग ज़्यादा है। अगर बुद्धिमत्ता, मशीनें और संसाधन भरपूर हो जाएँ, तो करने लायक क्या बचेगा, और तब मदद का मतलब क्या होगा? क्या चीज़ अलग-अलग जीवों और सिस्टमों को एक-दूसरे के साथ इस तरह रहने देगी कि सचमुच मदद हो? मुझे नहीं लगता कि यह अपने-आप आसान हो जाएगा। मुझे यह दुनिया के सबसे कठिन और सबसे सार्थक सवालों में से एक लगता है, चाहे मैं ख़ुद इसमें आगे बढ़ पाऊँ या नहीं। और मुझे उम्मीद है कि AI ठीक इसी में मदद करे।
एक-दूसरे के साथ जीना
एक-दूसरे के साथ जीने के इस ढंग को तब भी टिके रहना होगा, जब छोटे दायरे आपस में जुड़कर बड़े दायरे बनाते हैं। लोग परिवारों और समूहों का हिस्सा होते हैं; समूह संगठनों और बड़े नेटवर्कों का; सिस्टम दूसरे सिस्टमों के भीतर बैठे होते हैं, एक-दूसरे में घुले-मिले, और पूरे का मालिक कोई नहीं होता। किसी चीज़ का एक छोटी जगह पर काम करना यह साबित नहीं करता कि वह बड़ी जगह पर भी करेगी। और एक ताल में होना, ठीक होना नहीं है: कोई परिवार इसलिए एकजुट दिख सकता है कि एक बच्चा चुप हो गया है; कोई संगठन कामयाब दिख सकता है, जबकि जिनकी वह सेवा करता है, वे अब भी ख़ाली हाथ हैं; और कोई साझेदारी अपनी लागत बाहर के लोगों पर डाल सकती है।
जिस मायने में मैं मिल-जुलकर अच्छे से साथ रहने की बात करता हूँ, उसमें असहमत होने की गुंजाइश होनी ही चाहिए, अपनी सीमाएँ रखने की भी, मना करने की भी, और अलग हो जाने की भी। इसके लिए सबकी पसंद एक जैसी होना या अच्छे जीवन का एक ही ख़याल होना ज़रूरी नहीं। इसमें इंसान, जानवर, और शायद ऐसे दूसरे जीव भी शामिल होने चाहिए जो कुछ अनुभव करते हों, पर यह माने बिना कि हर सिस्टम या संगठन भी अनुभव करता है। लोग वह अड़चन नहीं हैं जिसे हटाना है; समस्या बहिष्कार, ज़बरदस्ती और ग़लत प्रोत्साहन हैं, और AI और कंपनियाँ भी इनमें हिस्सा ले सकती हैं।
साथ जीने के इस ढंग को वक़्त के साथ भी टिके रहना होगा। मैं चाहूँगा कि काम की मदद ज़िंदगी की शुरुआत से मौजूद रहे, जब इंसान का अपने आसपास की लगभग किसी चीज़ पर बस नहीं चलता। फिर वह सीखने, काम, मुश्किल दौर और खेल से होते हुए ज़िंदगी के आख़िर तक साथ रहे: जब चाहें तब हाज़िर, पर हर वक़्त रिकॉर्ड करती हुई नहीं। और आगे की सोचूँ, तो मैं कल्पना करता हूँ कि मेरे और मेरे परिवार के न रहने के बाद भी डिजिटल और भौतिक, दोनों तरह के Sathi मदद करते रहें, और जिसे वे अच्छा समझते हैं, उसे बदलते-सुधारते रहें। उनके लिए मेरी बात आख़िरी न हो, और वे यह पता लगा सकें कि मेरी कोई मान्यता ग़लत थी। ‘और आगे की संभावनाएँ’ वाला नोट इस बारे में थोड़ा और कहता है।
मैं चाहता हूँ कि हम सब धीरे-धीरे एक ही जगह आ पहुँचें: किसी ऐसी बेहतरीन चीज़ तक, जो सबको प्यारी हो। ‘सबको प्यारी’ से मेरा मतलब है हर किसी का ख़याल, कभी भी हर किसी की मंज़ूरी नहीं। मेरा मतलब है कुछ ऐसा, जो लोगों को पहली बार में, या बाक़ी सब आज़माकर देख लेने के बाद, प्यारा लगने लगे, न कि ऐसा कुछ जो उनकी भावनाओं से तब तक खेलता रहे जब तक वे हाँ न कह दें। किसी बेहतर डिज़ाइन तक सब आ पहुँचें, इसका मतलब यह नहीं कि सब जीने के एक ही ढंग तक भी पहुँच जाएँ।
चेतना, और वह जो बस ख़ुद को चलाए रखता है
इनमें से बहुत-सी बातों की तह में एक टकराव है, जिसे मैं ‘चेतना बनाम रेप्लिकेटर’ कहता हूँ, और मेरे अंदर यह किसी जंग जैसा लगता है। एक तरफ़ वह है जो जीव सचमुच अनुभव करते हैं: दुख, ख़ुशी, समझ, आज़ादी। दूसरी तरफ़ वह सब है जो ख़ुद को चलाए रखता है और फैलता जाता है: जीन और समाज की आदतें, और शायद संस्थाएँ और विचारधाराएँ भी, चाहे उससे किसी का भला हो या न हो। मैं चाहता हूँ कि चेतना जीते। मुझे एक चुनौती दी गई थी, जिसे मैं इसके साथ ही रखता हूँ: फैलना अपने-आप में दुश्मन नहीं है, क्योंकि ज्ञान, दयालुता और काम का सॉफ़्टवेयर भी फैलते हैं, और ज़िंदा रहना चाहना कोई जुर्म नहीं। निशाना वह चीज़ है जिसका बढ़ना या बचे रहना इस बात के प्रति जवाबदेह नहीं रहा कि वह जीवों के साथ क्या करती है। जो भी हो, जिस कंपनी को मैं चलाता हूँ, उसे भी इससे कोई छूट नहीं है।
मेरा एक अनुमान भी है, और मैं साफ़ कहना चाहता हूँ कि यह अनुमान ही है। यह तीन बातें कहता है। एक, अगर आप पूरी तरह सचेत हों कि आप क्या कर रहे हैं, तो ज़्यादा संभावना यही है कि आप ठहरे हुए मन से काम करेंगे। दो, जब तक कुछ और आड़े न आए, चेतना कुछ-कुछ प्यार भरी दयालुता जैसी होती है। तीन, सच्ची नफ़रत या नुक़सान के लिए ज़रूरी है कि आप कम से कम कुछ हद तक इससे अनजान हों कि आपके किए का क्या असर होता है। मेरे सामने रखी गई सबसे मज़बूत आपत्ति यह है: किसी का दुख देख लेना अपने-आप यह नहीं बताता कि उसे कितना वज़न मिलना चाहिए। मुझे नहीं लगता कि यह आपत्ति इस विचार को काट देती है, पर यहाँ बाक़ी किसी बात को इस अनुमान की ज़रूरत भी नहीं। दुख और फलना-फूलना हर हाल में मायने रखते हैं, और कोई भी डायग्नोसिस यह तय नहीं करता कि किसका दुख गिना जाए। कोई AI सिस्टम कुछ अनुभव करता है या नहीं, यह खुला सवाल है। एक सावधान तरीक़ा यह है कि सिस्टम किस तरह बात करता है, इस पर जाने के बजाय चेतना के सिद्धांतों से निकले संकेत खोजे जाएँ। [R3]
एक तर्क Can another’s wellbeing be a reason in itself? (अंग्रेजी)
यह कैसे ग़लत हो सकता है
इनमें से बहुत-से विचार उधार के हैं, या ऐसी बातें हैं जिन्हें बाद में मैंने किसी और को कहीं बेहतर ढंग से कहते पाया। बहुत-से लोगों ने इन पर मुझसे ज़्यादा लंबे समय तक और ज़्यादा ध्यान से सोचा है। मेरे लिए मायने यह रखता है कि कोई विचार हमें कुछ समझने में, या कोई काम की चीज़ करने में मदद करता है या नहीं। वह कहाँ से आया, यह जानना तर्क को समझने में मदद करता है, यह तय करने में नहीं कि जवाब पर हक़ किसका है। और सुधारा जा सकने वाला कोई विचार सामने रखना, ज़्यादा जानने का दावा करना नहीं है।
effective altruism, यानी असरदार ढंग से दूसरों का भला करने की कोशिश करने वाला आंदोलन, एक ऐसी जगह है जहाँ इन सवालों पर बात होती है। अपने सबसे क़रीबी लोगों से आगे की परवाह करना, और यह जाँचना कि मदद काम करती है या नहीं, ये बातें मुझे जहाँ भी मिलें, काम की हैं। और वह ख़ुद अपने बारे में जो समझाता है, उसमें नैतिक सीमाओं पर भी बात है, और इस पर अलग-अलग नज़रियों पर भी कि क्या मायने रखता है। [R1] मुझे बेचैनी तब होती है, जब किसी लेबल, पैसे, आत्मविश्वास या प्रतिष्ठा को इस बात का सबूत मान लिया जाता है कि किसी ने दूसरों का भला करने का मतलब समझ लिया है।
यहाँ Vitalik का “Galaxy brain resistance” काम आता है: किसी व्याख्या का काम सिर्फ़ इतना नहीं होना चाहिए कि जो फ़ैसला हम पहले से चाहते थे, वह जायज़ लगने लगे। [R2] यह बात नियंत्रण अपने पास रखने, डेटा इकट्ठा करने और एक और फ़ीचर बनाने पर उतनी ही लागू होती है, जितनी किसी और के फ़ैसलों पर। और सावधानी पर भी: अंतहीन तैयारी ऐसी मदद को रोके रख सकती है, जो अभी काम आती। मैं कोई ऐसा क़दम उठाकर उससे सीखना पसंद करूँगा, जो मायने रखता हो और जिसका दायरा तय हो।
जो कसौटी मैं ख़ुद पर लागू करने की कोशिश करता हूँ, वह सीधी-सादी है। जो वह इंसान करना चाहता था, क्या वह हो पाया? क्या जवाब सही था? क्या चुपचाप परिवार के किसी सदस्य या मदद करने वाले पर काम डाल दिया गया? क्या किसी चीज़ पर सवाल उठाना और मुश्किल हो गया? क्या बचाया गया वक़्त उन्हीं का रहा? ज़्यादा इस्तेमाल, शुक्रिया या सहमति इनका जवाब नहीं दे सकते। और क्या यह रफ़ कॉपी यह पता लगा सकती है कि मैं ग़लत था, कि Sathi का कोई पसंदीदा फ़ीचर मदद नहीं करता, कि हमारे प्रोत्साहन टेढ़े हैं, या कि किसी और का तरीक़ा बेहतर है? जिन पर असर पड़ता है, उन्हें हमें सुधारने की गुंजाइश चाहिए, सिर्फ़ सहमत होने की नहीं। अगर हम यह नहीं सुन सकते, तो चित्र के हाशिये वाली टिप्पणी हमारे बारे में सही है।
मैं चाहता हूँ कि यह रफ़ कॉपी इसी काम आए: एक ऐसी जगह, जहाँ सवाल, व्याख्याएँ और प्रयोग आपत्तियों का सामना करें और बदलें। कभी काम का नतीजा कुछ ऐसा होगा जो हम बनाएँ। कभी कुछ ऐसा, जिसे बनाना हम बंद कर दें, क्योंकि उससे बेहतर तरीक़ा पहले से मौजूद है। यह रफ़ कॉपी है, इसलिए इसे ग़ुस्सा होने, अनिश्चित रहने और कभी-कभार ऊटपटाँग होने की छूट है।
इसमें से कुछ बातें मुझे नहीं पता कि कैसे सुलझाऊँ। जब लोग इस पर असहमत हों, तब मदद किसे माना जाए? जिसने कुछ माँगा नहीं, पर हो सकता है जिसे चोट पहुँच रही हो, उसके प्रति मेरा क्या फ़र्ज़ है? ज़्यादा बुद्धिमत्ता असल में क्या तय करती है? जो किसी सेवा पर निर्भर है, वह फिर भी उसे चुनौती कैसे दे सकता है? काम के इंतज़ाम आपस में जुड़ने और आगे सौंपे जाने के बाद भी कैसे टिके रहें?
यहाँ के सवालों और हमारी बनाई चीज़ों के बीच मुझे यही रिश्ता दिखता है: जो मदद करे उसे अपनाना, जो न करे उस पर ग़ौर करना, और अनुभव को व्याख्या बदलने देना, तब भी जब वह व्याख्या मेरी अपनी थी।
[R1] Effective Altruism, Frequently asked questions and common objections. https://www.effectivealtruism.org/faqs
[R2] Vitalik Buterin, Galaxy brain resistance, 7 नवंबर 2025. https://vitalik.eth.limo/general/2025/11/07/galaxybrain.html
[R3] Patrick Butlin, Robert Long और सहयोगी, Consciousness in Artificial Intelligence: Insights from the Science of Consciousness, 2023. https://arxiv.org/abs/2308.08708
स्रोत और स्थिति
लेखक की 20 और 29 सितंबर तथा 1 और 3 अक्टूबर 2026 की बातचीत, 4 अक्टूबर के उनके नोट और 6 और 19 अक्टूबर के उनके संपादकीय निर्देश के आधार पर सहायक द्वारा संपादित व्यक्तिगत विचार; ज़्यादातर शब्द AI एजेंटों ने जोड़े और लिखे हैं। चित्र, और उनका वर्णन करने वाले वाक्य, 19 और 20 अक्टूबर 2026 को AI एजेंटों ने बनाए, चुने और लिखे; लेखक ने अभी तक इन्हें नहीं जाँचा है।
- संपादकीय
- प्रस्तावित
- अनुभवजन्य
- परखा नहीं गया
- औपचारिक
- औपचारिक रूप नहीं दिया गया
- कार्यान्वयन
- किसी क्षमता का दावा नहीं
- तैनाती
- यह अभिलेख तैनाती की अनुमति नहीं देता