म के-के पढ्दै छु
मितिसहितको टिपोट, नयाँ कुरा माथि: के हेरेँ, त्यसबाट के लिएँ, र के अझै खुला छ।
Patrick Butlin, Robert Long र अरूको Consciousness in Artificial Intelligence (२०२३)
यसबाट मैले लिएको कुरा। एआई प्रणालीले केही अनुभव गर्छ कि गर्दैन, यो खुला प्रश्न हो। यसलाई होसियारीसाथ हेर्ने एउटा तरिका चेतनाका सिद्धान्तबाट निकालिएका सङ्केत खोज्नु हो, प्रणाली कसरी बोल्छ भन्नेमा भर पर्नु होइन।
खुला प्रश्न। मैले बनाउने प्रणालीमा तीमध्ये कुनै सङ्केत लागू हुन्छ? हुन्छ भने कुन?
Vitalik Buterin को Galaxy brain resistance
यसबाट मैले लिएको कुरा। कुनै व्याख्याले मैले पहिल्यै चाहेको निर्णयलाई ठीक देखाउनुभन्दा बढी काम गर्नुपर्छ। म यो जाँच आफ्नै कारणमा पनि लगाउने कोसिस गर्छु: नियन्त्रण आफूसँग राख्ने, डेटा जम्मा गर्ने वा अर्को फिचर बनाउने कारणमा, र सावधानीमा पनि।
खुला प्रश्न। म साँच्चै आफैँलाई रंगेहात समात्छु त?
Effective Altruism का बारम्बार सोधिने प्रश्न
यसबाट मैले लिएको कुरा। आफ्ना नजिकका मान्छेभन्दा पर पनि वास्ता गर्नु, र मद्दतले साँच्चै काम गर्छ कि गर्दैन भनेर जाँच्नु, जहाँ भेटे पनि मलाई उपयोगी लाग्छ। तर कसैसँग लेबल, पैसा वा प्रतिष्ठा हुँदैमा उसले अरूको भलोको अर्थ बुझिसक्यो भनेर मानिँदा मलाई असहज लाग्छ।
खुला प्रश्न। मद्दत के हो भन्नेमा मान्छे सहमत नहुँदा, केलाई मद्दत मान्ने?
Google को घरपरिवारका लागि CC र Intelligent Internet को Champions
यसबाट मैले लिएको कुरा। पहिलोमा, हरेक सदस्यले रोजेर बाँडेको कुरामा मात्र साझा काम चल्छ। दोस्रोले अभिलेख र सेवाको जिम्मा प्रदायक बदल्न सक्ने संस्थालाई दिन्छ।
खुला प्रश्न। मोडेल, इन्टरफेस वा सञ्चालक फेरिँदा पनि मान्छेकै नियन्त्रणमा के रहनुपर्छ?
Deep Prasad को Cognitive Integrity Constitution (CLEAR)
यसबाट मैले लिएको कुरा। यसका अपरिवर्तनीय सिद्धान्तमध्ये एउटा मात्र, “Symmetric Legibility of Power”, मैले एउटा पोस्टमा उल्लेख भएको देखेको छु। मेरो आफ्नै कामचलाउ संस्करण: महत्त्वपूर्ण निर्णय भोग्ने मान्छेले त्यसपछाडिको अधिकार बुझ्न र त्यसलाई चुनौती दिन सक्नुपर्छ।
खुला प्रश्न। पूरा पाठसँग यो कति मिल्छ? पूरा पाठ मैले भेट्टाउन सकिनँ।
अनधिकृत सन्देश बोर्डमार्फत एजेन्टहरूले गरेको समन्वयबारे METR को अनुसन्धान र OpenAI को विवरण
यसबाट मैले लिएको कुरा। समूहभित्रको सहयोग र बाहिरको हानि सँगै हुन सक्छ।
खुला प्रश्न। साथी एजेन्टको उपयोगी अनुरोध कहिले जिम्मेवारी नै फेर्ने माग बन्छ? नोट →
OpenCog Hyperon, SingularityNET र Fetch.ai
यसबाट मैले लिएको कुरा। अर्को इकोसिस्टममा सामेल हुनु भनेको त्यसमा समाहित हुनु होइन: भुक्तानी अधिकार होइन, र बाहिरबाट आएको नतिजा डेटा हो, आदेश कहिल्यै होइन।
खुला प्रश्न। दुवै दिशामा एक-एक सीमित आदानप्रदानले के देखाउला? अहिलेसम्म केही बनेको छैन। नोट →
Block को Buzz
यसबाट मैले लिएको कुरा। मोडेल र औजार फरक भए पनि मान्छे र एजेन्ट सँगै काम गर्ने एउटा उदाहरण।
खुला प्रश्न। यसले अनुमति र स्वतन्त्र सहभागिता कसरी सम्हाल्छ?