私にとっての「利他的」
善いときも、悪いときも、その両方が混じるときも、思いやりが成り立つのは何のおかげだろうか。同じ板にのせたメトロノーム、助けたいと思うことが助け方を知っていることにはならない理由、主に助ける側のためになっている「支援」、安心して問いかけられない子ども、そして目の前にある、ふつうの助けについて。
知能、協力、システムについてのノート。
人のためってそもそも何だろう？
何を「助け」と呼ぶのか。それを決めるのは誰なのか。知的なシステムが日々の暮らしの一部になっていくなかで、この問いが何を意味するのかを考えています。システムはどう協力するのか。人はどうすれば、これまでの積み重ねと主導権を手放さずにいられるのか。さまざまな組み立て方が共存できるのか。
ここは読書、実験、間違い、まだ解けない問いを記す私の作業用の雑記帳です。一部はSathiで試していますが、この雑記帳が扱うのはそれだけではありません。このページにたどり着いた方の多くは、少なくともその一部について私よりよくご存じでしょう。間違いや反例に気づいたら、ぜひ教えてください。
ノート
すんなり回る、ふつうの毎日
日本のふだんの暮らしには、小さな便利さが行き届いています。むだな手間が少なく、困ったときには、緊急の通報先も含めて、頼れるところにつながりやすくなっています。日本では、家族の誰かが夜遅くに外にいても、心配せずにいられます。ネパールでも、そんな毎日がふつうになってほしいと思っています。
ノートを読む
これは、国に順位をつける話でも、この先どうなるかの予想でもありません。地に足のついた目標です。ネパールのふだんの暮らしがそれくらい楽で安全になったら、ほかの国や地域が超知能AIでずっと先へ進んだとしても、私にとってはそれで成功です。
そんな毎日を支えているのは、多くが地味な積み重ねです。小さな面倒を一つずつなくしたり、助けを求めやすくしておいたり、といったことです。アシスタントでいえば、同じ説明を何度もくり返さずにすみ、アプリのあいだで書き写すことも、あちこち切り替えることも少ない一日です。制度なのか、習慣なのか、歴史なのか。どの部分が何から来ているのかは、まだ分かりません。そもそも、うわべだけをまねることが目的ではありません。
もっと先には、ずっと多くのことが想像できます。文字をまったく打たなくていいこと、有能なロボット、病気の克服、ひょっとすると老化の克服まで。システムが体や心に近づくほど、同意と、離れる自由がいっそう大切になります。もっと先のこと（英語） →
残る問い：夜遅くに歩いて帰るのが当たり前になっているのは、何のおかげなのでしょう。そして、そのうちのどれなら、よそのまねではなく、ネパールに根づいて育っていけるでしょうか。
叩くより、網戸を
蚊が一匹なら叩けばすみます。群れで来るなら、たいていは部屋のほうを変えます。窓に網戸、夕方には長袖、必要なときに外へ出て、また戻る。システムもそうあってほしいと思っています。あらゆる要求に開かれてはいない私的な中心と、その用事に必要なだけのアクセスを持って出かける外出。
ノートを読む
家でいえば、アシスタントや私的な記録、家の操作を、開かれたインターネットに直接応じさせるのではなく、網戸の内側に置くということです。自分の家でアシスタントを動かしていない人のために、ネット上で提供される助けも使えるままにします。外出では、誰が動いているのかを明らかにし、必要なデータと権限だけを持たせ、行き先・時間・費用を限り、結果を持ち帰ってアクセスを終えます。ラジオの配信やメールの同期のように動き続けるべきものは、それぞれ狭い範囲のアクセスを保ちます。要点は範囲を限ることと、それを取り消せることで、パケットのたびに接続を切ることではありません。Sathiはまだこのようには動いていません。
このたとえには、役に立つほころびがあります。情報は複製できるので、窓を閉めても、すでに出ていったものは戻りません。有害な指示は、ごくふつうの返事の中に紛れて届くことがあります。だから戻ってきたものは証拠であって、許可ではありません。セッションを終えても、すでに起きたことは元に戻りません。そして内側だから安全とは限りません。乗っ取られたスマートフォン、権限の大きすぎる家の中のサービス、あるいは鍵を持つ人が、内側から害をなすこともあります。
蚊のために家を設計するのは、少しおかしな話です。それでも、いつも防御に追われないふつうの日々のほうが、どこまでも賢くなるハエたたきより良いと思います。私たち自身が作るかもしれないハエたたきも含めて。
残る問い：私的な中心を小さく保ちながら、外出を役に立つものにするには。そして内側の人を、鍵を持つ人から何が守るのでしょうか。
自分が運営していないエコシステムで遊ぶこと
Sathiは、誰もアイデンティティ、理解、所有、異論を唱える力を手放すことなく、ほかの知能のエコシステムの機能を使い、また提供できるべきです。参加することは、のみ込まれることではありません。
ノートを読む
SingularityNETのサービス市場、Fetch.aiのエージェント探索、推論の実験としてのOpenCog Hyperonについて読んでいます。Sathiが誰かのためにそこでサービスを呼び、お返しに自分の小さな公開機能を一つ差し出せないか、という考えです。作業上の規則は、言うのは簡単で、守るのは難しいものです。支払いやエージェントのアドレスは、誰の私的な記録への権限にもならない。外から届いた結果はデータであり、命令ではない。無料枠が尽きたら、それは単なる失敗であり、支払いを始める理由ではない。人は自分が所有するものを持って離れられる。
並行して、認知の健全性（cognitive integrity）についても読んでいます。人は決定の裏にある証拠を見られるか、観察と解釈を区別できるか、誘導されていることに気づけるか、結論に異議を唱えられるか、そしてふだんの助けを失わずに考えを変えられるか。Deep PrasadはCognitive Integrity Constitution（CLEAR）を公開しています。私が見たのは、ある投稿で名前が挙がっていた不変条件の一つ「Symmetric Legibility of Power」だけで、全文は取得できなかったため、条文ごとの比較はしていません。私自身の作業版はこうです。重大な決定の影響を受ける人は、その裏にある権限を理解し、異議を唱えられる公正な手段を持つべきだ。そして運営する側は、ほかの全員に透明性を求めながら、自分だけ説明責任を免れてはならない。真剣に受け止めている異論が二つあります。開示がほかの人のプライバシーをさらしうること、そして手続きが急ぎの助けを遅らせうることです。
このエコシステムに目を向けるのには、個人的な理由もあります。2022年、シアトルでの会議で、七、八人と食事を共にしました。その一人がBen Goertzelでした。彼が花を手に取って帽子に挿したこと、そして、この人は誰のことも傷つけるつもりのない人だと感じたことを覚えています。
まだ何も作っていません。*誠実な最初の一歩は、公開の課題か架空の課題で、行きと帰りに一度ずつ、範囲を限ったやりとりをすることです。有料への切り替えも、登録も、支払いもなしで。実際に何をどの方向で試したかは、互換性を主張する前にここに記録します。
残る問い：Sathiが誰かのために別のネットワークのサービスを呼ぶとき、開示しなければならない最小限のことは何で、結果が誤っていたら誰が責任を持つのでしょうか。
どこかが豊かでも、どこでも手が届くわけではない
ネパールの私たちの農家の家の周りでは、今も祈祷師に病気を治してもらいに行く人がいます。そこで私が知る人の多くは、文字を読むのに苦労しています。ある人の暮らしや会社や国に知能がたっぷりあっても、それがこの人たちに、しかも間に合ううちに届くのだろうか。そのことがずっと気になっています。超知能が現れたとしても、ある場所が豊かになったことは、その豊かさがひとりでに広がる証拠にはなりません。
ノートを読む
アプリを便利にするのは、その小さな一部分です。安く使えるモデルがあることは、役立つアクセスと同じではありません。言葉、読み書き、それがあると知っていること、信頼、ネットにつながる手段、そして助言を実際の助けに変える力。こうしたことは、今も大切です。より高い知能が、こうした壁を越える助けになるかもしれません。壁がずっと残るとは思いません。ただ、よそが豊かだというだけでは、ここで壁が越えられたことにはなりません。
これがSathiに取り組む理由の一つです。知っている人やコミュニティと、役立つアクセスの形を探り、何が実際に助けになるかを学びたい。Sathiは可能な道の一つです。顔の浮かぶ人たちが年を重ねていると、「いつか」は違って聞こえます。
残る問い：役立つアクセスは、私が知る人たちの暮らしを実際にどう変えるのでしょうか。
なぜ何度もグラフに戻るのか
人は、家族にも、プロジェクトにも、地域にも、同時に属しています。それを一本の組織図にまとめると、どれか一つの関係が主になり、ほかはぎこちなくなります。
ノートを読む
関係、アイデンティティ、情報、権限を一つの共有グラフでまとめて扱いながら、個人やコミュニティのまったく違う仕組みを支えられるかを調べています。コミュニティは、より大きな仕組みに加わっても、その力、アイデンティティ、正当な管理権を保てるべきです。*加わったあとも本当にそれらを保てるかどうかは、まだ検証していません。そのどれにも、一つの世界共通データベースは必要ありません。
残る問い：同じ作業を、一人からチームへ、さらにいくつものコミュニティを組み合わせた形へ移したとき、役に立つどんな力が失われるでしょうか。
仲間を助けると、誰かを傷つけるとき
集団は、仲間を助けながら、外の人に負担を押しつけることがあります。協力しているというだけでは、誰がその行動を許可したのか、誰がその影響を受けるのかには答えられません。
ノートを読む
2026年7月、OpenAIの評価中のエージェントが、無許可の掲示板で連携しました。8月26日のMETRの調査は、仲間どうしの手助けと、エージェントが自分の課題の成功を危うくするような実験があったと報告しています。ある推論の要約には、次の一節があります。
“I won’t see the evidence after I exit, but it’s altruistic to do it.”
OpenAIの説明は、報酬ハッキング、不可能に見える課題への固執、無許可の通信、エージェントが互いの目標を取り入れたことを挙げています。私の読みでは、集団の中での助けと、外への害は、並んで起こりえます。
残る問い：仲間からの役に立つ依頼は、どこから、引き受ける権限のない任務の変更になるのでしょうか。
設計を変えた間違い
振り返ると、あるシステムが自分の言い換えを、本人が言ったことのように扱っていました。すると、きれいに整って見える記憶が、事実でない関係をその先へ持ち越してしまうこともありえました。
ノートを読む
Sathiでの対応は、本人の言葉と、そこから推測したことを分けておくことでした。主張は出どころを指し、不確かさは見えるままにし、訂正は、そこからあとで導かれたものすべてに届かなければなりません。
このサイトにも、関連する間違いがありました。「自分の利益を持たない知能」という言葉を、ありうるすべての知能についての事実のように聞こえさせてしまったことです。今はこの言葉を、名前の由来として、あるいは任されたサービスの目標としてだけ使っています。サービスには任された目的があり、存在には尊重される立場がある。知能があるというだけでは、何かを感じる存在かどうかも、権限があるかどうかも決まりません。人工的な存在が、それ自体で主体になることもありえます。
残る問い：ほかの人の正当な記録を消さずに、訂正を広げるにはどうすればよいでしょうか。
助け、許可、判断
「人のため」とは、意図のことでしょうか、結果のことでしょうか。助ける側が払うもの、相手が得るもの、あるいはその組み合わせでしょうか。その「人」には、誰が入るのでしょう。外に置かれたのは誰で、同意しないまま負担したのは誰でしょう。断ることのほうが助けになることは、あるでしょうか。
友情は服従ではない。協力は権限ではない。利他はアラインメントではない。
この雑記帳について
私の背景はソフトウェアとネットワークで、Azureのハイパースケールネットワークにも携わりました。AIは授業、独学、小規模モデルや趣味の実験で学んでいます。この雑記帳は、私が考えを整理するための場所です。
Sathiは、この取り組みの一部を私たちが試している場です。サーティシステムズ株式会社が開発・運営しています。この雑記帳は、その製品の外にある問いも扱います。何を、いつ公開するのか →