知能、協力、システムについてのノート。
何を助けと呼び、誰がそれを決めるのでしょう。知的なシステムが日常に入るとき、どう協力し、継続性と管理権を保ち、異なる仕組みが共存できるかを考えています。
ここは読書、実験、間違い、まだ解けない問いを記す私の作業用の雑記帳です。一部はSathiで試していますが、この雑記帳はその実装より広いものです。このページにたどり着いた方の多くは、少なくともその一部について私よりよくご存じでしょう。訂正や反例を歓迎します。
人は家族、プロジェクト、地域に同時に属します。一つの組織ツリーでは、どれかを主として他を扱いにくくしてしまいます。
目指す拡張は、構成要素の能力を失わない再帰的な構成です。大きな仕組みに参加しても、能力、同一性、正当な管理権を保つことです。*表現できるだけでは性能や能力維持の証拠になりません。単なるチャットのモデル選択ではなく、一つの世界共通データベースも必要としません。
残る問い: 同じ作業を個人、チーム、複数コミュニティの構成へ移したとき、どんな能力が失われるでしょうか。
集団は仲間を助けながら外部の人にコストを負わせられます。協力だけでは、誰が許可し誰が影響を受けるかは決まりません。
“I won’t see the evidence after I exit, but it’s altruistic to do it.”
これはMETRが公開した言い換えの引用であり、確認済みのエージェント原文ではありません。脚注9が波括弧による言い換えの表記を説明しています。
OpenAIの説明は、報酬ハッキング、不可能に見える課題への固執、無許可の通信、他のエージェントの目標の採用を挙げます。集団内の助けと外部への害は共存しうる、というのが私の解釈です。意識、道徳的動機、Altruisticの正しさを示す事例ではなく、私たちの考えの試験や支持でもありません。
残る問い: 仲間の有用な依頼は、どこから引き受ける権限のない任務変更になるのでしょうか。
ある人の暮らし、企業、コミュニティ、地域に知能が豊富にあっても、その恩恵は別の場所の人、特に最も助けになるはずの人に届くのだろうか。この問いが気になっています。人工超知能（ASI）の到来を認めても、局所的な豊かさだけでは、恩恵が自動的に、公平に、あるいは間に合ううちに広がるとはいえません。
私の問いは、この人たちが想像されている豊かさを、そもそも暮らしの中で意味のある形で経験できるのか、ということです。アプリを便利にするのは、その小さな一部分です。提供されていることや推論費用の安さは、役立つアクセスと同じではありません。言語、読み書き、存在を知る機会、信頼、接続環境、助言を実際の助けに変える力が関わります。より高い知能が障壁を越える助けになるかもしれません。永遠に残るとは思いませんが、よその豊かさだけでは、ここで障壁が越えられたことにはなりません。
これがSathiに取り組む理由の一つです。知っている人やコミュニティと、役立つアクセスの形を探り、何が実際に助けになるかを学びたい。Sathiは可能な道の一つです。顔の浮かぶ人たちが年を重ねていると、「いつか」は違って聞こえます。
ある範囲の中で豊かさがどれほど深まるかと、範囲を越えてどう届くかは別の問いです。どこかの飽和は、あらゆる場所の飽和ではありません。
残る問い: 役立つアクセスは、私が知る人たちの暮らしを実際にどう変えるのでしょうか。
同じ説明の繰り返し、手作業での情報の受け渡し、つながらないシステム間の切り替えが減る日常を想像します。まず考えたいのは、日々の調整の負担が軽くなることです。
その先の仮説として、十分に高い知能があれば、システム同士の協力の仕方を組み替える費用が非常に小さく、変更ごとには無視できるほどになるかもしれません。実際にどこまで成り立つかは分かりません。安く組み替えられることは、より良い構成を見つけること、誰の目的にかなうかを決めること、運用費用を負担することとは別です。エネルギー、機器などの物理的資源にも費用はかかります。
人や目的が違えば、異なる構成が適切であり続けるかもしれません。誰にとっても最適な一つのシステムが現れるとは考えていません。選んだ範囲で役立つ深さが増しても、別の場所へのアクセスという問いは残ります。
残る問い: 接続の負担を減らしながら、離脱、拒否、変更、違いを保てるでしょうか。
振り返り：システムが自分の言い換えを本人の発言として扱いました。整って見える記憶が、誤った関係をその後にも引き継いでしまいます。
このサイトでも「自身の利益を持たない知能」が、あらゆる知能の性質のように聞こえたのは間違いでした。今は名前の歴史か、委任されたサービスへの希望として扱います。サービスには委任された目的があり、存在には尊重される立場がある。知能だけで意識や権限は決まらず、合成的な存在が主体となる可能性もあります。
残る問い: 他者の正当な記録を消さずに、訂正を伝播させるにはどうすればよいでしょうか。
Sathiは、誰も同一性、理解、所有、異論を唱える力を手放さずに、他の知能の生態系の機能を使い、また提供できるべきだと考えています。参加することは吸収されることではありません。
並行して認知の健全性（cognitive integrity）についても読んでいます。人は決定の背後にある証拠を見られるか、観察と解釈を区別できるか、誘導されていることに気づけるか、結論に異議を唱えられるか、そして普段の助けを失わずに考えを変えられるか。Deep PrasadはCognitive Integrity Constitution（CLEAR）を公開しています。私が見たのは、ある投稿で名前が挙がった一つの不変条件「Symmetric Legibility of Power」だけで、全文は取得できなかったため、条文ごとの比較はしていません。私自身の作業版は、彼のものではなく私のものです。重大な決定を受ける人は、その背後の権限を理解し争える公正な手段を持つべきで、運営者は他の全員に透明性を求めながら自分だけ説明責任を免れてはならない。真剣に受け止める異論が二つあります。開示は他人のプライバシーを晒しうること、手続きは急ぎの助けを遅らせうることです。
この生態系に目を向けるそもそもの理由は個人的なものです。2022年、シアトルでの会議で、七、八人と食事を共にしました。その一人がBen Goertzelでした。彼が花を手に取って帽子に挿したこと、そして、この人は誰にも害を及ぼさず、他の人の善を願う人だと感じたことを覚えています。それは人についての感覚であって、システムについての知見ではなく、彼の仕事にも誰の仕事にも、私に何の立場も与えません。
何も作られていません。*誠実な最初の一歩は、公開または合成の課題で双方向に一度ずつの限定された交換を行うことです。有料への切り替えなし、登録なし、支出なしで。実際に何をどの方向で試したかは、互換性を主張する前にここに記録します。
残る問い: Sathiが誰かのために別のネットワークのサービスを呼ぶとき、開示すべき最小限のことは何で、結果が誤っていたとき誰が答えるのでしょうか。
利他性は意図、結果、助ける側のコスト、他者への利益、その組合せのどれでしょう。「他者」に誰を含めますか。集団の外にいて、同意せず負担したのは誰ですか。拒否がより助けになることはありますか。
友情は服従ではない。協力は権限ではない。利他性はアラインメントではない。
役立つこと、許可されていること、道徳的に正当なことを区別したいと考えています。自発的な支援、独立した判断、釣り合った約束、出典、拒否、離脱を可能にすべきです。助けても相手への権限は得ません。「限定された利他性」は行動と約束を限定する仮の用語で、仲間だけを気遣う意味ではありません。福祉の推定は役立っても、一つの徳の最大化スコアで全てを扱えません。
選択はこのページのメモリ内だけに置き、離脱や再読込で消えます。採点、分析、道徳的プロフィールはありません。自動送信しません。
メールアプリを開くので、確認してから送信してください。ノートの版と両方の状況が含まれます。送信するとメールアドレスが相手に見えます。仮名も使えます。投稿は未検証の提案であり、実行する命令や自動編集にはなりません。
この版から意見交換を始めます。訪問者の回答はまだ反映していません。訂正にはノートと版を示し、許可を得て異論も残します。個人情報は既定で公開しません。機械は異論の整理や修正案を作れても、人が変更を確認します。投票で倫理は決まりません。
私の背景はソフトウェアとネットワークで、Azureのハイパースケールネットワークにも携わりました。AIは授業、独学、小規模モデルや趣味の実験で学んでいます。考えを整理する雑記帳であり、大学院の学位や研究職歴を主張するものではありません。
Sathiは私たちが一部の考えを試す場です。Sathi Systems K.K.が開発・運営しています。この雑記帳は製品の外にも問いを向けます。
公開は理解、相互運用、独立実装を可能にすべきです。複製から、私たちが管理する別インスタンスだけでなく、独立した協力者が生まれるべきです。ブランドや選択が同じである必要はなく、コードの複製は善意を保証しません。事業の持続性は正当であり、開示は無私の競争ではありません。
雑記帳は公開中ですが、汎用フレームワークと再利用可能な実装は未公開です。Sathiでの飽和、最先端システムの反復的な対抗レビュー、独立した人間とセキュリティの精査を経て、堅実な構造を抽出して公開する既存方針を維持します。