いま読んでいるもの
日付つきの記録で、新しいものが上にあります。何を読んだか、そこから何を受け取ったか、何がまだ分からないかを書いています。
Consciousness in Artificial Intelligence（Patrick Butlin, Robert Longほか、2023年）
受け取ったこと：AIのシステムが何かを経験しているのかどうかは、まだ答えの出ていない問いです。慎重に近づくなら、システムの話しぶりで判断するのではなく、意識についての理論から引き出した目印を探すことになります。
残る問い：その目印のうち、私がつくるシステムに当てはまるものはあるでしょうか。あるなら、どれでしょうか。
Vitalik Buterinの「Galaxy brain resistance」
受け取ったこと：説明は、もともと自分がしたかった決定を正しそうに見せるだけで終わってはいけません。私はこの考えを、自分の理由にも向けるようにしています。管理を手放さない理由、データを集める理由、機能をもう一つ足す理由、そして慎重になる理由にも。
残る問い：実際に、自分で気づけているでしょうか。
Effective Altruism, frequently asked questions（効果的利他主義のよくある質問）
受け取ったこと：身近な人の外にまで気を配ること、そして助けが本当に役立っているかを確かめること。この二つは、どこで出会っても役に立つと思います。落ち着かないのは、看板やお金や名声が、その人が「利他」の意味をもう分かっている証拠のように扱われるときです。
残る問い：何が助けかで意見が分かれるとき、何を助けと呼べるのでしょう。
Googleの家庭向けCCとIntelligent InternetのChampions
受け取ったこと：前者では、みんなで進める作業が、各メンバーが自分で選んで共有したものにもとづきます。後者は、記録とサービスの責任を、取引先を切り替えられる機関に持たせます。
残る問い：モデルや画面や運営者が変わっても、人の手元に残るべきものは何でしょうか。
Deep PrasadのCognitive Integrity Constitution（CLEAR）
受け取ったこと：私が見たのは、ある投稿で名前が挙がっていた不変条件の一つ「Symmetric Legibility of Power」だけです。私自身の作業版はこうです。重大な決定の影響を受ける人は、その裏にある権限を理解し、異議を唱えられるべきだ。
残る問い：全文と比べるとどうなるのか。全文は取得できませんでした。
無許可の掲示板で連携したエージェントについての、METRの調査とOpenAIの説明
受け取ったこと：集団の中での助けと、外への害は、並んで起こりえます。
残る問い：仲間からの役に立つ依頼は、どこから任務の変更になるのでしょうか。ノートへ →
OpenCog Hyperon、SingularityNET、Fetch.ai
受け取ったこと：別のエコシステムに加わっても、のみ込まれてはいけません。支払いは権限にはならず、外から届いた結果はデータであって、命令ではありません。
残る問い：行きと帰りに一度ずつ、範囲を限ったやりとりをしたら、何が分かるでしょうか。まだ何も作っていません。ノートへ →
BlockのBuzz
受け取ったこと：人とエージェントが、モデルや道具の違いを越えて一緒に働く例です。
残る問い：許可のこと、そしてそれぞれが独立して参加することを、どう扱っているのでしょうか。