LLM「必然論」の真偽は？巨額投資に見合わない「幻」に終わるのか！

現代の世俗化で多くの賢い人が何千年も続く哲学や宗教思想を無視してるけど、そのせいで世界や未来についての考えの心理パターンに気づかないんだ。AI必然論は予定説に似てて、昔は神が主役だったけど、今はテクノロジーに変わっただけ。心理的には自由と責任を強力な力に押し付けてるって点は同じだよ。

AGIがすぐに普及するとは思わないけど、LessWrongのエッセイを宗教的だとは思わないね。“新しい神がいるだけ！”ってのは、宗教的弁証術の常套句で、筆者の信念をごまかすためのものだよ。AGI必然論者の何人かには当てはまるかもだけど、最悪の議論に注目すべきじゃないと思う。

神を信じないからって脳の宗教的機能が止まるわけじゃないよ。その機能が別のこと、例えば政治議論の激化に向かってるって見方もできる。ニューエイジのスピリチュアルやホロスコープなんかも、伝統宗教がない中でこの機能が働く場所を探してるんだと思う。

これは悪いパターンマッチングだよ。似てるものに共通の原因があるとは限らない。AIに巨額の投資があるからって、それが起こる可能性が高いと見るのは合理的だ。これは宗教の予定説とは違うよ。宗教は努力に関わらず結果が決まってるって信じるけど、AIは今のトレンドを未来に当てはめてるだけだろ。

AIが必然だと言ってるのは、経済学やインセンティブ、ゲーム理論、人間心理といった基本的な考えに基づいているんだ。“予定説”だと言い換えるのは、なんか理屈っぽい“wordcel”な感じがするね。

あなたの意見には反対だね。AIが計画された道にあるんじゃなくて、技術進歩が続くだけだよ。火の発明以来、技術は加速してるんだ。文明が崩壊して暗黒時代になっても人間の独創性は止まらず、結局技術はまた進み始めた。止めることはできないんだ。Scott Alexanderの「Meditations On Moloch」を読むと、人間にとって悲惨な結果になっても技術が進む理由がわかるよ。

AIは世界観じゃなく強力なツールだよ。成功者はAIで未来を予測でき、これは事実だ。AI開発は高レベルな思考が必要で、旧来のプログラマーは“AIを操縦すること”を学ぶべきだよ。社会は豊かになるけど、多くの人が収入を失い、スキルが陳腐化するだろうね。

それは本の主張じゃないから、あなたは読んでないかWikipediaすら見てないんじゃない？技術の進歩は止まらないなんて言ってないよ。思考パターンは時代を超えて同じなのに、それに気づかないのは心理的に怠惰だと言いたかっただけ。兵器なんかは意図的に技術の普及を抑えられた例もあるしね。

正直、今何が起きてるのか冷静に受け止めるべきだね。不公平でも誰かのせいじゃない。あるいは、この未来を拒否して、社会として阻止するために行動することもできる。僕らにはちゃんとその力があるんだ、もし組織して使おうとすればね。

そうだけど、どうして？もし君の意見が、汎用コンピューティングとの戦争をエスカレートさせて、生成AIを違法にすべきだってことなら、それは何のため？もし僕のLLMが業界に与える長期的影響を受け入れるなら、君の提案は社会からより大きな繁栄を奪い、少数の利益を守るってことだ。個人的には、ソフトウェアエンジニアの給料を人工的に維持するよりも、起業の民主化を進めたいね。
それに、アメリカがそんなことしたとして、どうなる？経済を弱体化させて、敵国が追随すると思う？むしろ競争力を失い、CCPによるグローバルな覇権時代を招くだけだよ。

逆だよ。大学一年で計算機科学のキャップストーンをさっと終わらせて、残りの時間はほとんど哲学、心理学、社会学の授業に費やしたんだ。「ちょっと目を細めれば、これって非宗教者のための宗教みたいに見える」っていう見方は、何度も聞いてきたものだね。宗教性に対する生物学的な欲求があるかどうかについて、事実に基づいた議論をするのは全く有効だけど、そこから長々と誰かのよく練られた考えを批判するのは、ちょっと雑だと思うな。

神様じゃないかもしれないけど、僕らは意図的に僕らより優れた人工知能を設計して、地球全体を制御させようとしてるんだ。その一方で、どうにか僕らに従属し続けると期待してる（それともそれって単なる口約束なのかな）？

いや、君がその疑問に辿り着いたんだよ。僕には「それは本当に’宗教的ハードウェア’なのか、それとも数千年もの間、共通言語を作り、社会構造を作り、巨大な社会をまとめる法的フィクションを互いに信じさせてきた、昔ながらの’パターンから意味を作る’ハードウェアなのか？」っていう疑問に繋がるね。

社会から繁栄を奪うなんて、まさに今その通りだよ。AIは、すでにもう人間が持ちすぎるほどの富を持つ連中以外には、何一つもたらさないだろうね。せいぜい、AIはデジタル環境を汚染するゴミを大量に生み出すことで、世界の平均的な不幸を少し増やすだけだよ。産業革命だって、資本家以外には何の繁栄ももたらさなかったし、彼らは従業員に（物理的な力で）長時間、ひどい環境で、わずかな賃金で働かせたんだ。社会のエリートが何かを約束するとき、庶民は警戒しなくちゃいけない。あのエリートたちは、親切にして今の地位に登り詰めたわけじゃないからね。

思考パターンが時代を超えて同じだと指摘するのは心理的に怠惰、って言ってたけど、正確な予測を生み出す思考パターンに従うのは怠惰じゃないよ。そしてそれが「AIブーム」が成長し続ける根拠なんだ—だってこれらのツールは実際に役立つんだから、今すぐにでも、様々な仕事や生活のタスクでね、しかも僕らはまだ試してる段階だよ。あと、意図的に抑制された技術加速や普及の例なんて、特に兵器だとされるけど、３つ挙げてみてよ。（３つ挙げられるとは思うけど、それはどれだけ異例で、実際にどれだけ効果が疑問かってことを浮き彫りにするはずだ。）それに、他国が他の手段で再現できないような有用な能力を本当に否定する規制を一つでも見つけられるか、挑戦してみてくれ。

そんなに珍しくないと思うけどな。化学兵器、生物兵器、核兵器はどれも使用が許されないか、所持さえ許されない。世界の政府は核兵器の拡散を防ぐために極端な努力をしてるよ。もし技術開発や必要物資の取得に制限がなかったら、たぶん全ての国や大規模な軍事組織が核兵器プログラムを持つだろうね。
他にも、ヒトクローン、GMOsや食品の遺伝子組み換え（国によって違うけど、一部は確実に食品供給に制限を設けてる）、ロボトミーみたいな特定の医療処置があるよ。君の最後の文章はよくわからないけど、もし僕が正しく理解してるなら、ウクライナやリビアは、核の制限に直面して、他の手段でその恩恵を再現できなかった明白な例だと思うけどね。

誰も神学的な予定説が「何もない」に基づいているなんて真剣に言ってないよ。パターンマッチングが下手すぎるだろ。

冷戦の核戦争の恐怖を洪水神話と同一視して「またか」と無視するのは違う。広島や長崎は実際にあった。すべてが言説の環境にいると、現実を見ずに「嫌だ」という理由でAIを否定するエリートがいる。
狼が村に入ったら、言葉だけじゃ済まないよ。これは終末的な必然じゃない。ゲーム理論的に、特定の方向にインセンティブが働いてて、現実の世界で大規模な調整なしには変えられないって話だ。

大学の講義を引用するのは未熟さの証拠だけど、現代的な概念を共有するね。Adam Curtisの作品では、人類は意思決定を無生物に任せてきた歴史があるけど、これはいつも失敗してきたって。Cyberneticsが根底にあるけど、人間全体の認知システムには適応できないんだ。
「自然主義」も誤った概念で、自然な状態なんてない。機能しないものに身を委ねるのは「偽の神を信じる」のと同じだよ。

君はブログ記事と僕の前のコメントの論点を見誤ってるよ。僕が言いたいのは、技術者の間に「どうせ起こるんだから、世界に悪い影響があっても関係ない、倫理的な責任もない」って考えが広まってるってことだ。これは責任と自由を回避する方法だよ。
特定のシナリオがどれくらい起こりうるかとか、賢い人たちの予測を議論してるんじゃないからね。

ごめん、でも君はLLMが人間の心にかなり近いと主張してるの？それとも他のAIについて議論してるの？

君が宗教的信念を持つのはもちろん自由だよ。でも、宗教コミュニティの外のほとんどの人にとって、特定の神学的主張（予定説とか）の証拠は「何もない」ように見えるんだ。
それと対照的に、AIの進路に関する主張は、最近のAI開発の公開されてて検証可能な知識に基づいているんだよ。

君は迷子になってるみたいだね。テレビ番組を引用するのは特定の考え方への反論になるかもしれないけど、僕の投稿への返信としては場違いだし、直接言及できてない。君のコメントはみんな見れるから個人的に言うけど、ネットで無神論者に意地悪しても、君のイデオロギーの確固たる証拠にはならないよ。

これって実は、何世紀も前に始まった世俗的なdialectical materialismに似てると思うんだ。人間がその必然性を信じ、自ら実現しようとした点が特にね。
共産主義は政府が主導したけど、今回は企業がやってる。資金豊富な民間組織が、これが必然的な未来だと信じ、一番乗りを目指してるんだ。主体は神から技術に変わったんじゃなくて、労働から資本に変わったってこと。どっちが正しいかは言わないけど、類似性は明白だよ。

LessWrongの読み方は君とはかなり違うよ。あのコミュニティ全体は、人類がAIの神を創造するって考えが中心なんだ。

『主体が神から技術に変わった』って意見に賛成だよ。技術が彼らにとっての神になったって言えるね。

5年前のグラボじゃ核兵器も化学兵器も作れないけど、LLMは違う。
数年前のPCでもLLMが動くんだから、止められないよ。スマホで動く小型LLMもあるしね。
これを止めるには政府が全PCを監視するような過酷な法律が必要になる。LLMを許容する国やグループは莫大な利益を得るだろう。

全く同感。これは新しい現象じゃなくて、決定論者が運命論を主張するための最新の脅威に過ぎない。
物理学や宗教から来る運命論は簡単に否定するのに、”AIは必然”って言われるとみんな驚いちゃうんだよね。

俺もそう思うよ。AIの”権威”たちのブログを読むと、まるでスターリン主義みたいで驚く。
彼らは頭の中のユートピアを目指し、それを実現するために人を犠牲にする準備ができてる。
もし本当に良い世界を目指すなら、医療費無料化やクリーンエネルギー投資みたいに、一歩ずつ確実に良い方向へ進むべきだ。

2009年にスマホの支配が必然だって言ったのは、使ってその力を理解してたからだ。
2025年には、AIを実務で活用してる人が、その大規模な普及が避けられるとは思えないだろうね。
AIは史上どんなテクノロジーよりも速く、強烈にやってくる。恐ろしいけど、願ってもなくならない。

皮肉なことに、これこそブログが言及してる議論テクニックそのものだよね。
人間が交通手段を考え直すような、革命的で必然に見えたテクノロジーを覚えてる？
膨大な宣伝、秘密会議とかね。あれ、結局セグウェイって自己均衡スクーターだったけどさ。

80年代にAIや10年前にVRの必然性を主張し投資してたら運が悪かっただろう。
ザッカーバーグはVRに何十億も費やしてるが成果なし。テスラ株もロボタクシーで10年。
過去の成功例を都合よく選ぶのは愚かだ。何十億ドルもの投資があった技術の必然性を誓った人は多いが、後から見れば時期尚早なバブルだった。

1. セグウェイはPRはすごかったけど市場浸透は低かった。でもLLMや拡散モデルはとんでもない自然な成長をしてる。
   2. セグウェイは時代を先取りしてただけだ。携帯型リチウムイオン駆動の都市型個人移動手段は今かなり普及してるしね。

莫大で自然的だけど、儲かってないだろ。無料じゃなくなったりVCの資金が尽きたりしたら、大量の利用とユーザーが消え失せるだろうね。
セグウェイは常に参入障壁が高かった。今、ChatGPTはアカウントすら不要で、みんなGoogleアカウントを持ってるしね。

なんか自己実現予言みたいだな。巨大テック企業が製品のあらゆる隙間に”AI”を押し込んで、”こんなに使われてるだろ？必然なんだ！”って言ってる。
AIが必然なのは同意する。でも、今は集団思考が強すぎて、全部エージェント的なテキストボックスになっちゃってる。
みんながそこから先に進んだら、何が出てくるか楽しみだね。

それは違うね。LLMはもう2年以上前から広告だけで利益が出るくらい安く動かせるんだ。同じ品質でもどんどん安くなってるし。
ウェブ検索APIを呼び出すより、LLMの回答を出す方がもっと安い！
よっぽど良いものが出たり、技術が禁止されない限り、全ユーザーが消えるなんてことはまずないね。

LLMは広告だけで利益出せるほど安くて、ウェブ検索APIよりLLMの回答の方が安価だって？これ、とんでもない主張だね。裏付ける証拠あるの？

SOTAモデルからまだ全然価値を引き出せてないよ。経済的利益の0.1%も活用されてないんじゃないかな。個人的にはClaudeを使って、計画やタスクを管理するソフトウェアを開発中で、LLMを活用してるんだ。

LLMが個人プロジェクトのコーディングを手伝うって話、何度も聞くけど、成果物は共有されないんだよね。”ニーズに特化しすぎてるから”って。これって結局使えないコードだろ。実際に生産現場で10倍の生産性向上を見たことがないし、逆の例ばかりだよ。

君が挙げた”失敗した”イノベーションは、現在のLLMの普及率とは比べ物にならないよ。LLMはもうすでにすごく便利で、広く使われてる技術だ。VR/ARや80年代のAI、初期のTeslaとは全然違うんだ。

1950年の人にスマートフォンが主流になるって言ったら信じたと思うよ。でも、ソーシャルメディアの話だったら反応は違ったはずだ。AIは昔から、高度な通信デバイスというより、ソーシャルメディアの想像上の概念に近いんだ。

LLMのコストについてはこのブログ記事を見てくれ。https://www.snellman.net/blog/archive/2025-06-02-llms-are-ch…
それにしても、ハードウェアの進化のおかげで、僕が開発してるローカルAIソフトウェアは過去1年で100倍以上速くなったよ。

ハードウェアの進歩ってどこにあるの？特にこの種のコンピューティングでは、最近はほとんどないように思うけど…。

僕は30年以上エンジニアをやってるけど、LLMは20人のジュニアエンジニアチームみたいなもんだよ。レビューは必要だけど、うまく指示すれば高品質なコードが作れる。LLMは普通のジュニアエンジニアより賢いんだ。MCPと統合すれば、もっと解決できる部分もあると思うね。

Segwayの話に反論するなら、電動自転車や電動スクーターがいい例だね。この前の週末、短距離移動のためにBMWのモーターサイクルじゃなくて、2000ドルのAriel ebikeに乗ったんだ。短い距離なら、マジで交通手段のゲームチェンジャーだよ。

もし街にインフラが整ってたら、長距離でも電動自転車とかは使えるよ。数年前にオランダに移住したんだけど、そういうインフラが全てを変えるんだ。

スマホとは違うよ。スマホはみんなが欲しがったけど、AIは最初ただのすごい芸だった。みんなが遊んで流行ったけど、企業が既存製品に無理やり組み込み始めたんだ。プログラミングまでゲーム化したり官僚化したりね。ゲーマーや盗作者以外はほとんど誰も欲しがってないよ。ゲームとかプログラミングの流行はすぐ廃れるからね。

80年代のAIや2010年代のVR、ロボタクシー、自動運転車が必然だと言ってた人は、当時の技術じゃなくて将来の発展を前提にしてたんだ。もうちょっとで使えるようになるって言ってたけどね。でも、2009年のスマホ、90年代後半のウェブ、今のLLMは「信じてくれ」なんて要素はいらない。自分で試して便利さがわかるから。Amazonで買い物したり、YouTubeやUberを使ったり、Claude Codeを使えば、未来を予測するのに技術の先見性なんていらなかったんだよ。俺は先見の明なんてないけど、ウェブもスマホも当時とは違って感じたし、AIも今そう感じるね。

セグウェイのことをよく考えるよ。あれは良い例だね。いやー、すごい時代だった。みんな興奮して、ずっと謎に包まれてたんだ。こっそり試した人がテレビで絶賛してた。でも…発表されて…うーん…一度試したけど、すごく期待外れだったな…

LLM必然論者は、将来の発展が現状を改善すると確実に思い込んでるね。

うん、俺は普通の人間だけど、どうすれば手に入る？いくらするの？

ChatGPTには週に8億人のアクティブユーザーがいるんだよ。地球の約10％だ。万能薬じゃないのはわかるけど、気に入らないからって現実を否定する必要はないんじゃない？

＞素晴らしいと思う人もいれば、ディストピア的だと見る人もいるが、どちらも正しくない。いや、ディストピア的だと言う人が客観的に見て正しいよ。爆弾なんてFacebookやTikTokに比べたら何でもない。

2年以上、トップ20に入るLLMサービスを運営してるけど、広告でかなり快適に利益出してるよ。純粋なコストの話だと、OpenAIとかからLLMの回答を得るコストは、Bing、Google、Exaで同等の検索クエリを出すのに比べて10倍以上安いんだ…。