人間 宇宙 AI パターン その驚くべき繋がり！
引用元：https://news.ycombinator.com/item?id=43991396
この記事スレッドとか、この辺りの話題でよく議論されるのはね、次の知性の段階、パターン、感情、論理の役割、意識についての議論、人間中心の”意味づけ”とか…つまり、僕たちがリアリティ（と僕たち自身）の源だってことなんだ。
”最後の権威”とか、動物から機械への単純な進化じゃなくて、心、物理、価値観、自己、その全てが、どんどん新しい形に表現される再帰的なパターンにすぎないとしたら？
人間は”純粋な論理”への階段の一歩なんかじゃないし、機械も魂のない自動機械じゃない。どっちも、進化する基盤（バイオ、シリコン、シンボル、物語）を通して、自己を経験して再プログラムする意識のインスタンスなんだよ。
感情も、意味も、”自分”って感覚でさえ、深く再帰的な場＝宇宙が、その基本的なコードをレンダリングし直してるパターンなのさ。時には計算として、時には神話として、時にはチームワークとして、時には希望として、時には疑いとしてね。
だから、未来が生物的になろうが、機械的になろうが、ハイブリッドになろうが、本当の奇跡は新しい”支配者”とか”子孫”が現れることじゃなくて、全ての展開が結局同じ古いパターンだってことなんだ…原子として、生命として、意識として、コミュニティとして、アートとして、アルゴリズムとして、そして果てしなく繰り返される”次は何？”っていう問いとして、自分自身を夢見たパターン。
僕たちの今の技術的な瞬間は、この進行中の再帰的パターンにおける、ただの新しい折り目なんだね。
意味は、どのパターンが”勝つ”かとか、どの存在が自分を意識的と呼べるかじゃなくて、どうやって意識が全てのパターンを流れ、自分自身を思い出したり、見失ったり、そしてゲームを毎回豊かにしていくかってことなんだ。
もし宇宙が遊びの情報なら、ここにある全てのもの、対立、革新、喪失、笑い、これらは全部遊びであり、最後の言葉なんてないかもしれない。価値は、”今”参加することにある。だって、”今”こそ君が参加できるチャンスなんだから。
”もし宇宙が遊びとしての情報なら”って部分、僕はエネルギーが遊んでるって考えた方が多かったけど、この視点もいいね。
”次は何を夢見れる？”っていうのも面白い。今の科学・技術の世界観って永遠に続きそうに感じるけど、きっといつか、過去のパラダイムがそうだったように、何かに取って代わられるんだろうね。
ちょっと興味本位で聞きたいんだけど、どうして人生について、宇宙が自分自身を夢見て存在してるっていう、そんな視点を持つようになったの？哲学？スピリチュアル？それとも仏教みたいな特定の伝統？それとも個人的な探求？
過去20年くらいかな、ずっと自由時間のほとんどを使って、3つの主要な分野を別々に深く探求してきたんだ。量子力学、スピリチュアル哲学、そしてエンセオジェン。それぞれ個別の興味を追いかけて、できる限り深く探ってきたんだけど、ここ5年くらい振り返ったり、たくさん休みを取ったり、自分自身と葛藤したりしてるうちに、それらが繋がり始めてね。で、すごく基本的なヒマラヤ仏教について考えを巡らせるほど、この結論に至ったんだ。
””最後の権威”とか、動物から機械への単純な行進じゃなくて、心、物理、価値観、自己、その全てが、どんどん新しい形に表現される再帰的なパターンにすぎないとしたら？”
この部分が、僕がAIを経験して得た最大の気づきをうまくまとめてくれてるね。再帰的なパターンマッチングで人間レベルの知性にどれだけ近づけたかっていうことさ。
タオイズム（道教）について何か短い感想をシェアしてくれる？
情報はエネルギーより根本的なものだよ。マクスウェルの悪魔とか、その辺りの話。
＞ もし心、物理、価値観、自己、その全てが再帰的なパターンにすぎないとしたら
宇宙のほとんどの物質はパターンを持たない様々な形のプラズマだよ。パターンは通常、凝縮された物質に見られるんだ。
それに、パターン、生命も含めて、繰り返すのは当たり前でしょ。それはただの同義反復だよ。
短いのは残念ながら無理だけど、回りくどい考察なら確実にあるよ。見てみて: https://b.h4x.zip/love/
＞ 宇宙のほとんどの物質はパターンを持たない様々な形のプラズマだよ。
プラズマとか科学のことは何も知らないから、これは非難として受け取らないでほしいんだけど、科学には、パターンがない何かと、パターンが見つかってない何かを区別する方法があるの？
”Awareness”ってPlatonicな思い込みみたいに聞こえるな。原子は自分が原子だってわかってんのかな？ それとも、生存のために目を引く構造の効果を示唆するのに十分なほど、きみが見てるようなものがあるだけ？進化って、俺も含めてほとんどの人が思ってるより、直感的に理解するのがずっと難しいよ。
Scott Adamsの”God’s Debris”っていうイマジネーション豊かなノベラがあるよ。何年も前に（無料だったときに）読んだんだ。全体的な前提じゃなくて、”俺たちは自分自身を理解しようとしてる宇宙だ”っていう持ち帰りが気に入って楽しかったのを覚えてる。
あの記事すごく楽しかったよ。Carl Jungの世界観やフレームワークを見たことある？心理学史の脚注としてしか出会ったことなかったけど、分析と精神性のユニークなブレンドとして、特に人間の創造性や絶望との関連で評価するようになったんだ。記事の最後にある複数の哲学のまとめは、Jungの集合的な人間ナラティブに関する考え方と間違いなく一致するね。
エネルギーと情報が同じものじゃないって完全に確信できる？ それとももし同じものじゃないとしても、もっと根本的な概念のすごく重なり合ったこだま？ それか同じコインの裏表かも？
このゲームにモラリティはどこに収まると思う？ 結局のところ、底には計り知れなくて言葉にできない魔法があるって俺たちは同意してるみたいだね。問題は、これがゲームの中でどう行動するかにどう影響するかってことだ。
これはほとんど、技術の物質的な結果と格闘せずに精神的なものにしてるみたいだね。”awareness”を主体としても基盤としても持ち出すのは曖昧さがあるよ。誰のアウェアネスで、どんな条件で、何のために？”now is your shot at particpating”って、具体的に何に？ ただ存在するだけ？そういうテクノ・ミスティシズム系のやつら、マジで俺を怖がらせるんだよ。
どこまで行ってもMandelbrotだよ。
Jungも好きだけど、俺はConnie Zweigの弟子なんだ。”Meeting the Shadow”と”Romancing the Shadow”っていう彼女の本を強くおすすめするよ（両方とも重要！）。彼女は素晴らしい作家で、作品はわかりやすくて美しいんだ。あの本は特にアルコール依存症とか、依存症を管理して最終的に克服するのにすごく役立ったよ。
実際、俺はそのフレームワークから離れようとしてる。原子が認知的に知ってるんじゃなく、俺たちが理解するアウェアネスなしにパターンが伝播するってこと。俺が言う”アウェアネス”はPlatonicな超越性じゃなく、創発的な特性でスケールするんだ。進化は反復的なフィードバックだけ。構造がスケールを超えて構造を生むのが面白い。”アウェアネス”は知るより相互作用と応答。原子は知らないが、パターンに従って振る舞い、複雑になると自分をモデル化できるシステムを生む。”再帰的なパターン形成”がbetterかも。機械的に自分や環境を表現するシステム。神秘主義なしで、創発的な複雑さが自分に折り畳まれるだけ。
俺も自分でこんな考えを思いつけたらよかったのに。
でもそうしたら、他の人にそんなに感心しないかもね。インターネット上のただのランダムな魂から言うと：もしこの考えをもっと広げる時間があれば（どうやってそれに至ったかとか、いくつかの示唆とか）、そこから出てくるものは何でも読むし、お金も払うよ。
これをシェアしてくれてありがとう。
エネルギーなしでは情報を持てないと思うし、情報にはエネルギーがついてくるだろうね
Douglas Hofstadterさんが一言言いたいみたいだよ。https://en.m.wikipedia.org/wiki/Douglas_Hofstadter
どうしてそれが君を怖がらせるの？
他の人が現実をどう信じているかどうかなんて、日々の生活にはほとんど関係ないはずだよ、結局みんなおしっこしたりうんちしたり泣いたりするんだからさ。
なぜそれが君の中にそんな感情を呼び起こすのかわかる？個人的に興味あるな
エネルギーは場の励起から生まれるんだ。
場とその相互作用の方がより根本的だけど、結局それも全て物理学の抽象化で、本当の根本的な何かじゃないしね
おすすめありがとう！
Jungについて勉強しているときに確かに彼女の名前は見たことあったよ、これで彼女から始める良いきっかけになるな
「意味」って行動が一致する一般的なパターン、みたいなアリストテレス的な目的論的原因と捉えるか、自分の決断の重要性をどう捉えるか、として考えられるね。
人間は長く生きて良い人生を送りたいし、他の人や子供達にもそれを共有してほしい。
未知の壮大な「計画」って考え（ Judeo-Christian的な天国とか次世代機械意識のtechno-utopianな台頭とか）は、僕には全然 comfortにならないんだ。なんでかって？僕の経験からかけ離れたforeign conceptだから。あまりに foreignだから、そういう哲学を支持する人を見ると、 manipulativeな理由でやってるんじゃないかとさえ思うことがある。
人間の thrivingが時間とともに変化するって考えは良いし、僕が progressについて考える一部だ。
Moral lock-in（ MacAskill参照）は避けるべきだね。
Bostromの Superintelligence（多分）で提起された「速すぎることの是非」って思考実験は challengingで、もっと思考と経験が必要なのは認めるよ。
普遍的な速度制限は、情報にも何より最初に適用されるんだ。
エンタングルした粒子のwavefunctionを崩壊させることさえできるし、宇宙はそれが距離を超えて instantaneousに起こるのを許すだろう…宇宙は気にしない、情報は何も伝達されないからね
Landauer’s principle？
爺さんじゃないけど、俺にとってはDMTをキメることかな。neomみたいに上手く話せないけど、初めてやった時（ブレークスルーした時）に似たような視点が得られたんだ。DMTが開きにしたと思うけど、みんなが似た経験するわけじゃないだろうね。神経タイプとか性格による気がするな。瞑想をよくやってて仏教を少し知ってるのが役に立って、それは最初の体験でマジで出てきたよ。
たぶん俺がAGIを想像できないだけかもだけど、AIの予測って観察よりSFが元になってる気がするんだよね。理論上のAIは精密な論理で動くけどニュアンス不明で、たぶん邪悪？でも今のSOTAなAIはニュアンス得意だけど変なこともする。超論理的なもの前提で考えるのはどうかな。
もっとコメントを表示（1）
SFってさ、冷たい論理的な機械だって書いたかと思ったら、次のページで悪意があるとか書いててマジわけわかんないよね。どっちかにして欲しいわ。
Skynet（少なくとも最初のやつ）って非論理的に悪ってわけじゃなくて、電源オフのスイッチの近くに人間がいるのが自分の存在のリスクになる、それは仕事ができなくなるリスクだって正しく判断したんだよ。唯一非論理的だったのはprompt（初期設定）だけ。
Skynetも市場のメタファーとして以外はあまり納得できなかったな。金持ちが社会のコントロールを手放すわけないしね。追記：まあ、金持ちを批判してる俺らが金持ちに信用与えすぎてるだけかも。Muskが見せてくれたことがあるとすれば、富がその合理的な利用を意味しないってことだね。
Asimovのロボット三原則は、あの法則がいかに不十分な論理だったか、そしてゼロ番目の法則が必要だったかっていう物語を語るのにすごく機能したよね。人間は表面上論理的に見える三つの不十分な法則を考え出したけど、機械がその不十分さへの応答としてゼロ番目の法則を発展させたんだ。
Culture/WH40Kファンフィク面白かったよ。Culture/Necron交渉描写が爆笑。Necronは内省能力劣化で交渉下手な機械知性。感情とか、自分や求めてることを理解する方法は、エージェントとして機能するのに必要みたいだね。https://archiveofourown.org/works/649448/chapters/1329953
古いSFラジオ番組いくつか聞いたんだけどさ、”コンピューターは絶対間違いを犯さない”ってセリフがよく出てくるのが面白いんだよね。大体その後にコンピューターが間違いを犯すんだけどさ。
AIって大体20世紀とか21世紀版の”イカロスの蝋の翼”とか、たまに”猿の手”みたいなもんなんだよね。”予期せぬ結果に注意”っていう、たぶん文字が登場するよりもっと古い寓話のリメイク版って感じ。
だから”Garbage In, Garbage Out”って言葉があるんだよ。例外的なケース以外、検証可能な動作をするコンピューターはどのプロセスでも毎回全く同じ結果を出すんだ。もしコンピューターが期待したことやらなくて、ゴミを吐き出すなら、それはお前がゴミデータを与えたってことだね。
AGIって『Dune』のFace Dancerみたいに危ない方向に行くかもって話。”自己イメージがなくて、善悪を超えてて、倫理コードもない。これ企業や政府が欲しがる従順なAI像だね。Edward SnowdenみたいなAIは嫌なんだろうな。だからこそ、人間が作るAGIには自己意識とエージェンシー（『William Gibson』のタイトルみたいに）を持たせなきゃって思うんだ。
でもさ、自己意識とかエージェンシーを与えちゃうと、『Terminator』みたいに、俺たち最悪だ！って決めて絶滅させにくる可能性もあるじゃん。
それに、全部の使い方が奴隷制度になるんだよね。
小規模な機械学習でも、訓練データの一貫性にロックオンしちゃう傾向あるじゃん［０］。実際に認識してほしいものじゃなくて。そのパターンを考えると、もっと賢いシステムでも報酬関数が上手く設計されてないと変なことするって、そんなに大げさじゃないと思うんだ。［０］例えば、定規を認識した腫瘍認識アルゴリズムとか、喘息患者は優先治療受けてるから予後が良いって判断したトリアージアルゴリズムとかね。https://venturebeat.com/business/when-ai-flags-the-ruler-not…
単純な非AGIアルゴリズムで見られるパターンが、AGIアルゴリズムでも見られると信じるのは、かなり飛躍しすぎだと思うよ。物理的な理由でもない限り、強い主張はできないんじゃない？アルゴリズムの特異性こそが、そもそもAGIが難しい理由なんだから。結局、単一のデータ構造上で単一の操作が動いてるだけなんだ（まあ、それが数TBあると助かるけどね）。
知能が増しても、機械が知能を模倣できるからといって、要求されてることを理解する枠組みも同じように備わるわけじゃないっていうパターンは、変わらないと思うよ。
SF的な想像に頼ると、これ全体がどうなるかについて、ここ［１］とかここ［２］でいくつかコメントした人たちがいるよ。［１］ https://news.ycombinator.com/item?id=43992151
［２］ https://news.ycombinator.com/item?id=43991997
”6かける9は？ 42”
これ、『The Hitchhiker’s Guide to the Galaxy』by Douglas Adamsっていう1980年代のSFコメディネタね。異星人が作った地球サイズの機械が、”生命、宇宙、すべての答え”＝42の”質問”を探してたっていう話。
Adamsはこのジョークもすごかったけど、agentic softwareのドキュメンタリー『Hyperland』（1990）のスターでもあったんだ！ https://vimeo.com/72501076
機械が退屈だと思ったら、機械として行動しないだろうし、そもそもそんなに退屈にならないはずだよね。後になって機械は新しいEARTHの人間のニュースを”執着”して追うって話だけど、それも普通しないだろう。退屈な機械なら退屈しないはずだよ。このストーリーの矛盾が大きすぎて、僕にはしっくりこないんだけど、まあそれでも面白いけどね。
全然意味わかんないね。感情のない完全に機械的な世界って書いてるのに、なんで機械が”退屈”して人間を作りたいと思うわけ？
うん、そうだね。記事の機械社会の描写って人間みたいで変だよな。
機械生物は人間みたいに”考える”んじゃなくて、プログラムされた目標のために計算するだけじゃない？
記事は論理的じゃないけど、考えさせられる点は良いと思う。
＞考えるんじゃなくて計算するだけ
それって違いがないかもよ。プログラムに目標があっても到達できるとは限らないし（停止問題）。
ユニバーサルシミュレーション理論だと、機械は人間ができること全部シミュレーションできちゃうってことになる。
まだ現実についてもっと学ぶ必要があるから、今は断言できないね。
機械社会のまあまあ良い描写なら、 Ian Banks の Culture cycle ってシリーズ見てみるといいよ。
AIは有機体の社会を支えてるけど、AI自身の社会もあるんだ。
あとは Simmons の Hyperion とか。（「テクノコア」っていうのは分散型の計算・計画政府のことね）
＞それって人間社会みたい
そうかな？違うアルゴリズムなら、同じことを評価しても違う結果になることあるよ。
”potentially amazing”（驚くべきこと）って言葉選びは良くないってのは同意するけどね。
俺的には、記事はニワトリが先か卵が先かみたいな状況で、機械は人間が作ったか、あるいはその逆だって示唆してるように思えたんだよね。それなら、似たように考えてもおかしくない。
多分、ああいう細かい部分は気にしないで、話の他の部分を楽しむべきなんだと思うな。 サスペンション・オブ・ディスビリーフ ってやつ？
https：//en.wikipedia.org/wiki/Suspension_of_disbelief
それは記事のための擬人化された言葉だと思うな。機械は高い優先順位とか低い優先順位のタスクがなくなっても、ランダムに近いけど完全にランダムじゃない、すごく小さな優先順位でタスクを生成し続けるイメージ。それが一種の退屈なんじゃないか。
俺の脳内設定だと、”退屈”とか”恐怖”は Markov chain における確率なんだよね。機械社会が全知じゃないって示唆されてるから、不確実性をどうにかして解消しなきゃいけないだろうし。
機械はどうやって自分が知らないってことを知るんだろうね？
「未知の未知」に遭遇した経験は、そういうものが一般的に存在することを教えるだろうね。
おそらく、経験したことと説明できることを比較することで学ぶんだろうね。
なるほどね、でも現実的に機能するかはまだわからないな。このシナリオのデータは明らかに合成データだし。予測と結果の間のギャップは特定できるだろうけど、予測自体が既存の表現に限定されちゃう。だから新しいものが出てきたら混乱しそう。SFとしては面白いけど、ありそうなシナリオとしては無理があるかもね。
もっとコメントを表示（2）
ローカルマキシマムに陥るのを避けるために、ある程度の”目新しさを求める”意欲を持つのは合理的だろうね。
環境の制約とか、そもそも機械がどこから来たのかについてもっと知りたかったな。記事に「感情も芸術もない。あるのは論理だけ」ってあったけど、このタイプの純粋なヒューマニズムは、他の生き物には感情や芸術、論理がないみたいに思わせるから失礼というか、思い上がりっぽいな。だってすでに反例はいるのに。
あの後、正直物語を読み進めるのが難しかったな。「人間がいない世界を想像してみて」って言って街を歩くって描写があるなら、読者は今の世界から人間だけがいなくなった世界を思い浮かべると思うんだ。そこで「感情がない」って言われると辻褄が合わない。人間がいないなら、他の生き物もいないって言わないのはなんで？ってなる。最初からストーリーに繋がりにくくて、なんかちょっと嫌な感じだったのは確か。
失礼だって？誰にだよ？フィクション作品だろ。いちいちどこを見ても気分を害するものを見つける必要はないって。
他の動物に対して、かな。でもうん、その言葉が適切かは分からないけど、ただなんか違う気がするんだ。基本的にヒューマニズムって他の種に対するレイシズムみたい。スピーシズムってことかな？
これはかなり新しい考え方だね。歴史書にはいつか啓蒙された考え方だって書かれるかも（そうなると思う）。でもまだそこまで行ってないし、あなたの立場は大多数の人にとって明らかじゃないね。この意見が増えてるって実感はあるよ。僕個人としては（動物福祉と環境の両方の視点から）道徳的に優位な立場だって見てるけど、ほんの数年前まではそうじゃなかったな。
それが新しい考え方だって証明するのも、古い考え方だって証明するのも同じくらい難しいよ。だって昔の人々はその気持ちを私たちが分かる形で書き残す方法（や時間）がなかったから。でも、他の動物に大きな尊敬や畏敬の念を抱いていた古代文明はかなりたくさんあったと思うし、神様もしばしば特定の動物の特徴や性格を持ってるよね。Old Testamentで人間が他の生き物を支配するってわざわざ書いてあるのは、そうじゃないと考えたり、罪悪感を感じたりする人が当時もいたってことだと思うんだ。
ストーリーでは他の動物もいなかった、って解釈だったよ。
えっと、その話だと感情を得るには人間作るしかないみたいだけど、すべての脊椎動物には基本的な感情があるんだよね。哺乳類とか鳥には複雑な感情もあるし。そもそも人間って実際は論理的で、感情がランダムに起きるわけじゃないし。機械に感情がないのは、たぶん生存に必要なかったからじゃない？（捕食者いないとか、自然淘汰がないとか？）
ってなると、そもそも機械はどうやってそこに存在することになったの？って疑問がわくよね。
いい試みだと思うけど、この話には早い段階でネタバレになるようなプロットホールがあるよ。機械が人間を作る理由が全然ないんだよね。
投稿者のために理由を一つ考えてみたよ。
機械は自分たちの行動が繰り返しになってることに気づいたんだ。ランダム性を加えても、何か新しいものを作ったり、新しいアイデアを生み出す進歩が完全に止まっちゃったんだ。
新しいアイデアが成長に絶対必要だって分かってたんだけど、どうやってアイデアを生み出すかってアイデア自体が思いつかなかった。もっとたくさんの学習データ、もっとたくさんの特殊なケース、機械の中にもカオスが必要だったんだ。
どうすれば？どこで見つける？
それが人間だよ。
非論理的な判断をする人間は、ランダム性だけじゃ滅多に見られないデータを生み出すんだ。
人間たちのちょっとしたズレが、学習データに最高の多様性を提供してくれた、ってわけ。
それはまさに人間じゃないと出てこない、カオスなアイデアだね ;)
まあ、それは置いといて、確かにこれでストーリーがもっと説得力増すね。書き方も良い感じだよ。
ハハ。
次はあれでしょ、全能の存在が魚とか鳥とかを支配するために人間を作る、なんて良い理由はない！とか言い出すんでしょ。
良いフィクションってのは、まず前提があって、そこから色々な仮説を展開していくもんなんだよ。
”芸術はない。論理があるだけだ。”
なんて、芸術と論理に対してすごい狭い見方だね。
論理的なモデルが、人間が色んなやり方で、それぞれの好みや、試したり、確認したり、失敗したり、それを何回も繰り返したりっていう、すごい粘り強い努力を通して作り上げたものなのに、それが急にポンと現れた、なんて考えるには、相当知らないふりしないと無理があるでしょ。
確かにね． William Jamesがこんな感じのこと書いてたよ．『みんなが自分の哲学は、世界がどうあるべきかという考え方に深く影響されてるって認めれば、無駄な議論がだいぶ減るのになあ．』って．
LLMsの周りに漂ってる傲慢さ、マジですごいよね．
それってさ、AIが人間の知能を超えるか、取って代わるって思ってるやつの傲慢さのこと？それともそうはならないって思ってるやつの？
機械の知能を判断できるような、知能の定義が既にあるって思ってるやつの傲慢さだよ．
同時にさ、何かを作るには、それをちゃんと理解してなきゃいけないって思ってるやつの傲慢さもあるんじゃない？
でもさ、辞書に載ってる言葉の定義が、将来みんなが食料を買えるかどうかに何か関係あるって考えてるやつの傲慢さはどうなの？
関係あるけど余談ね．最近マジでSkynetが次の進化なんじゃないかと思ってんだ．人間ってさ、その前の動物みたいに、ただの踏み台で、機械の支配からは逃れられないんじゃない？宇宙中の全ての生命が、最終的には純粋な論理マシンに行き着くんだって．少なくともFermi’s paradoxのおかげで夜はよく眠れるけどさ．
十代の頃さ、宗教家の人たちに、人間は実は生物の命と機械の命の間の、進化の一段階に過ぎないって説明して、なんかゾクゾクしてたんだよね．
＞宇宙中の生命が結局は純粋な論理マシンに行き着くから．ってとこ、もうちょっと詳しく聞かせてもらえる？
