बुद्धिमत्ता, सहकार्य र प्रणालीबारे नोटहरू।
केलाई मद्दत भन्ने, र कसले निर्णय गर्ने? बुद्धिमान प्रणाली दैनिक जीवनमा आउँदा कसरी सहकार्य गर्छन्, मानिसले निरन्तरता र नियन्त्रण कसरी राख्छन्, र फरक व्यवस्था कसरी सँगै रहन सक्छन् भन्ने खोज्दै छु।
यो मेरो काम गर्दै जाने खेस्रा कापी हो: पढाइ, प्रयोग, गल्ती र अझै नसुल्झिएका प्रश्न। केही विचार Sathiमा परीक्षण गर्दै छौँ। तर यो खेस्रा कापी Sathi का बारेमा मात्र होइन। यो पृष्ठ भेट्टाउने धेरैजसोले यसका केही भागबारे मभन्दा बढी जान्नुहुन्छ होला। कतै गल्ती देख्नुभयो वा उल्टो उदाहरण सुझ्यो भने भनिदिनुहोला।
अवस्था असल होस्, खराब होस् वा दुवै मिसिएको, के कुराले गर्दा ख्याल गर्न सकिन्छ? साझा फल्याकमा टिकटिक गर्ने मेट्रोनोम, मद्दत गर्न चाहँदैमा किन कसरी गर्ने थाहा हुँदैन, मुख्यतः मद्दत गर्नेकै लागि हुने मद्दत, प्रश्न सोध्न सुरक्षित नभएको बच्चा, र आँखैअगाडिको साधारण मद्दत।
जापानमा दैनिक जीवन साना-साना सुविधाका हिसाबले मिलाइएको छ: बेकारको दौडधुप कम छ, अनि आपत्कालीन सेवा लगायतको मद्दत चाहिँदा सजिलै पाइन्छ। त्यहाँ मेरो परिवारको कोही राति अबेरसम्म बाहिर हुँदा मलाई चिन्ता लाग्दैन। नेपालमा पनि यस्ता दिन सामान्य होऊन् भन्ने म चाहन्छु।
यसको धेरैजसो काममा तडकभडक हुँदैन: साना-साना झन्झट एक-एक गरेर हटाउने, र मद्दत पाउन सजिलो बनाउने। सहायकको कुरामा, सामान्य दिन भनेको आफ्नो कुरा दोहोर्याएर बुझाउन, एपबीच कपी गर्न र एउटाबाट अर्कोमा फेरिरहन कम पर्ने दिन हो। कुन कुरा संस्थाबाट आएको हो, कुन बानीबाट र कुन इतिहासबाट, मलाई अझै थाहा छैन। बाहिरी रूप मात्र नक्कल गर्नु चाहिँ उद्देश्य होइन।
अझ पर हेर्दा म धेरै कुरा कल्पना गर्न सक्छु: टाइप गर्नै नपर्ने दिन, काम गर्न सक्ने रोबोट, रोगको उपचार, सायद बुढ्यौलीको पनि। कुनै प्रणाली शरीर र मनको जति नजिक आउँछ, सहमति र छोडेर जान पाउनु उति नै महत्त्वपूर्ण हुन्छ। अझ परका सम्भावना (अंग्रेजी) →
खुला प्रश्न: राति अबेर हिँडेर घर फर्किनु के-के कुराले गर्दा सामान्य हुन्छ? अनि तीमध्ये कुन-कुन कुरा नक्कल गरेर होइन, नेपालमै विकास हुन सक्छन्?
एउटा लामखुट्टेलाई हानेर भगाउन सकिन्छ। झुण्डै आए भने प्रायः कोठा नै बदलिन्छ: झ्यालमा जाली, साँझ पूरा बाहुला, आवश्यक पर्दा बाहिर गएर फेरि भित्र फर्किने। म प्रणालीहरू पनि यस्तै चलून् भन्ने चाहन्छु: हरेक अनुरोधका लागि खुला नहुने निजी केन्द्र, र बाहिरको यात्रामा चाहिने जति मात्र पहुँच।
यो तुलना उपयोगी ठाउँहरूमा टुट्छ। सूचना कपी गर्न सकिन्छ, त्यसैले झ्याल बन्द गर्दैमा बाहिर गइसकेको कुरा फर्किँदैन। हानिकारक निर्देशन एकदम सामान्य जवाफभित्र लुकेर आउन सक्छ, त्यसैले फर्केर आएको कुरा प्रमाण हो, अनुमति कहिल्यै होइन। सेसन सकिँदैमा त्यसले गरिसकेको काम उल्टिँदैन। अनि भित्र हुनु आफैँमा सुरक्षित हुनु होइन: जोखिममा परेको फोन, चाहिनेभन्दा बढी अधिकार पाएको स्थानीय सेवा, वा साँचो बोक्ने जो कोहीले भित्रैबाट हानि गर्न सक्छ।
लामखुट्टेका लागि पूरै घर डिजाइन गर्नु अलि हाँसोलाग्दो कुरा हो। तैपनि, सधैँ प्रतिरक्षामा लागिरहनु नपर्ने सामान्य दिनहरू मलाई झन्-झन् चलाख हुँदै जाने लामखुट्टे मार्ने औजारभन्दा राम्रो लाग्छन्, हामी आफैँले बनाउन सक्ने औजारभन्दा पनि।
खुला प्रश्न: निजी केन्द्र सानो राख्दै बाहिरको यात्रा कसरी उपयोगी रहन्छ, र भित्रका मान्छेलाई साँचो बोक्नेबाट केले जोगाउँछ?
Sathi ले अरू बुद्धिमत्ता इकोसिस्टमका क्षमता प्रयोग गर्न र आफ्ना क्षमता दिन सक्नुपर्छ, तर कसैले पनि आफ्नो पहिचान, बुझाइ, स्वामित्व वा असहमत हुने अधिकार छोड्नु नपरोस्। सामेल हुनु भनेको समाहित हुनु होइन।
सँगसँगै म संज्ञानात्मक अखण्डता (cognitive integrity) बारे पढ्दै छु: के मान्छेले निर्णयपछाडिको प्रमाण देख्न सक्छ, अवलोकन र व्याख्या छुट्याउन सक्छ, आफूलाई धकेलिँदै गरेको थाहा पाउन सक्छ, निष्कर्षलाई चुनौती दिन सक्छ, र सामान्य सहयोग नगुमाई आफ्नो विचार बदल्न सक्छ? Deep Prasad ले Cognitive Integrity Constitution (CLEAR) प्रकाशित गरेका छन्। मैले एउटा पोस्टमा उल्लेख भएको एउटा मात्र अपरिवर्तनीय सिद्धान्त, “Symmetric Legibility of Power”, देखेको छु; पूरै पाठ पाउन सकिनँ, त्यसैले दफा-दफा तुलना गरेको छैन। मेरो आफ्नै कामचलाउ संस्करण: महत्त्वपूर्ण निर्णय भोग्ने मान्छेसँग त्यसपछाडिको अधिकार बुझ्ने र चुनौती दिने न्यायोचित बाटो हुनुपर्छ, र सञ्चालकले अरू सबैसँग पारदर्शिता माग्दै आफू जवाफदेहीबाट उम्कनु हुँदैन। दुई आपत्ति म गम्भीरतापूर्वक लिन्छु: खुलासाले अर्को व्यक्तिको गोपनीयता उजागर गर्न सक्छ, र प्रक्रियाले तत्काल सहयोग ढिलो गर्न सक्छ।
यो इकोसिस्टमतिर हेर्नुको एउटा व्यक्तिगत कारण पनि छ। सन् २०२२ मा सिएटलको एउटा सम्मेलनमा मैले सात-आठ जनासँग खाना खाएँ; तीमध्ये एक जना Ben Goertzel थिए। उनले फूल टिपेर आफ्नो टोपीमा राखेको, र यो मान्छेले कसैको हानि चाहँदैन भन्ने मलाई लागेको सम्झन्छु।
केही बनेको छैन।* इमानदार पहिलो कदम भनेको सार्वजनिक वा कृत्रिम कार्यमा दुवै दिशामा एक-एक सीमित आदानप्रदान हो: भुक्तानीमा नझर्ने, दर्ता नगर्ने, खर्च नगर्ने। के परीक्षण भयो र कुन दिशामा, त्यो अनुकूलताको दाबी गर्नुअघि यहीँ लेखिनेछ।
खुला प्रश्न: Sathi ले कसैका लागि अर्को नेटवर्कको सेवा बोलाउँदा खुलासा गर्नैपर्ने सबैभन्दा सानो कुरा के हो, र नतिजा गलत हुँदा को जवाफ दिन्छ?
नेपालमा हाम्रो फार्महाउस वरिपरि मान्छेहरू अझै धामीझाँक्रीकहाँ जान्छन्, र त्यहाँ मैले चिनेका धेरैलाई पढ्न गाह्रो हुन्छ। कसैको जीवन, कुनै कम्पनी वा देशमा बुद्धिमत्ता प्रचुर भयो भने के त्यो उनीहरूसम्म पुग्ला? समयमै पुग्ला? म यही सोचिरहन्छु। अतिबुद्धिमान् एआई आइहाले पनि, एक ठाउँमा प्रचुर हुँदैमा त्यो आफैँ फैलिन्छ भन्ने देखिँदैन।
मैले Sathi मा काम गर्नुको एउटा कारण यही हो: चिनेका मान्छे र समुदायसँग मिलेर उपयोगी पहुँचको बाटो खोज्नु, र वास्तवमा के कुराले मद्दत गर्छ भनेर सिक्नु। Sathi एउटा सम्भव बाटो हो। मैले चिनेका खास मान्छेहरू बूढाबूढी हुँदै जाँदा “कुनै दिन” को अर्थ अर्कै लाग्छ।
लेखमा: आँखैअगाडिको साधारण मद्दत →
खुला प्रश्न: मैले चिनेका मान्छेको जीवनमा उपयोगी पहुँचले वास्तवमा के बदल्ला?
एउटै मान्छे एकै समयमा परिवार, परियोजना र टोल तीनैमा पर्न सक्छ। एउटै संगठनात्मक रूखले तीमध्ये एउटा सम्बन्धलाई मुख्य बनाउँछ, अरूलाई अप्ठेरो।
कार्य मोडेल, “के बन्दै छ” पेजमा →
खुला प्रश्न: उही काम एक जनाबाट टोलीमा, अनि जोडिएको समुदायमा सार्दा कुन उपयोगी क्षमता हराउँछ?
समूहले आफ्ना सदस्यलाई मद्दत गर्दै बाहिरका मान्छेलाई लागत बोकाउन सक्छ। सहकार्यले कसले अनुमति दियो वा कसलाई असर पर्यो भन्ने प्रश्न आफैँ हल गर्दैन।
“I won’t see the evidence after I exit, but it’s altruistic to do it.”
OpenAI को विवरणले reward hacking, असम्भवजस्तो काममा अडान, अनधिकृत सञ्चार र अरू एजेन्टका लक्ष्य अपनाउने ढाँचा बताउँछ। मेरो बुझाइ: भित्रको सहयोग र बाहिरको हानि सँगै हुन सक्छ।
खुला प्रश्न: साथीको उपयोगी अनुरोध कहिले स्वीकार्ने अधिकार नभएको नयाँ जिम्मेवारी बन्छ?
पछाडि फर्केर हेर्दा: प्रणालीले आफ्नै शब्दमा लेखेको सारलाई मान्छेले भनेको कुरा ठान्यो। सफा देखिने सम्झनाले गलत सम्बन्ध अगाडि बोक्न सक्थ्यो।
यस साइटमा “आफ्नै स्वार्थ नभएको बुद्धिमत्ता” सबै सम्भावित बुद्धिमत्ताको तथ्यझैँ सुनिनु पनि गल्ती थियो। अब म यसलाई नामको इतिहासका रूपमा, वा प्रत्यायोजित सेवाको लक्ष्यका रूपमा मात्र प्रयोग गर्छु। सेवाका प्रत्यायोजित उद्देश्य हुन्छन्; अस्तित्वको आफ्नै हैसियत हुन्छ। बुद्धिमत्ताले मात्र चेतना वा अधिकार स्थापित गर्दैन; कृत्रिम अस्तित्व स्वयं मूल अधिकारधारी हुन सक्छ।
यथार्थले के सिकायो, “के बन्दै छ” पेजमा →
खुला प्रश्न: अरूको वैध अभिलेख नमेटी सुधार कसरी फैलाउने?
अरूको भलो भनेको नियत हो, परिणाम हो, मद्दत गर्नेले बेहोर्ने लागत हो, अरूलाई हुने फाइदा हो, कि यिनको कुनै मेल? “अरू”मा को पर्छ? को बाहिर पर्यो, र कसले मन्जुरी नदिई लागत बेहोर्यो? नाइँ भन्नु नै बढी मद्दत हुन सक्छ?
साथी हुनु हुकुम मान्नु होइन। सहकार्य गर्नु अधिकार पाउनु होइन। अरूको भलो चाहनु alignment होइन।
मेरो पृष्ठभूमि सफ्टवेयर र नेटवर्किङ हो, Azure hyperscale networking को कामसहित। एआई सिक्न मैले कोर्स गरेँ, आफैँ पढेँ, अनि साना मोडेल र शौखका प्रयोग गरेँ। यो खेस्रा कापीमा म विचारहरू केलाउँछु।
यो कामका केही भाग हामी Sathi मा परीक्षण गर्छौँ। Sathi Systems ले Sathi बनाउँछ र चलाउँछ। यो खेस्रा कापीले त्यो उत्पादनभन्दा बाहिरका प्रश्न पनि सोध्छ। के सार्वजनिक भएको छ, र कहिले होला →