AIはダイヤルアップ時代なのか!高価な巨大AIは一部企業だけのもの?
引用元:https://news.ycombinator.com/item?id=45804377
ダイヤルアップの例えは微妙だな。むしろ、AIは今「メインフレーム時代」だと思うよ。
デカくて高価な中央集権型コンピューティングモデルで、一部の大企業しか持てない。俺たちは彼らから計算タイムシェアを借りてる感じ(トークンはパンチカード)。
早く「パーソナルコンピューティング」時代が来て、小さなモデルがどこにでも分散されるといいな。
「パーソナルコンピューティング時代が来るのを楽しみにしてる」って言うけど、あれは一時的な偶然だったんじゃないかな。
PCが本当に普及したのは90年代からで、Web 2.0は2000年代半ば。今じゃ、普通の人は95%以上のスクリーンタイムを、PCを「クラウドの中央集権型サービスにアクセスするためのダム端末」として使ってるよ。
企業は毎日卵を売れるのに、なんで金のガチョウを売っちゃうんだろうね?
パーソナルコンピューティング時代が来たのは、ネット接続が悪かったり限られてたから、みんなメインフレームに接続できなかったってのもあるんだよね。
今はどこでも高速インターネットが使える。今回、AI版のパーソナルコンピューティング時代を動かすものが何なのか、俺には分からないな。
俺は、コンテンツストリーミングと中央集権的な計算をごっちゃにしてるんじゃないかと思うんだ。
あと、スクリーンタイムの割合って関連する指標なの? TV視聴がPCに移ったって、PCの価値は下がらないでしょ?
多くのアプリがWebに移行したけど、あれは基本的にローカルVMで動かすストリームコードだから、ダム端末ってわけじゃないよ。完全にローカルでの計算ってわけでもないけどね…。
「企業は毎日卵を売れるのに、なんで金のガチョウを売るのか?」って話だけど、誰かがガチョウを売って、市場を奪う可能性があるからだよ。
Appleはディスラプターになるのに一番適してる。でも、中国政府がトップティアのオープンソースモデルをネットにばらまいて、俺たちのテック企業を一段落させる可能性も侮れないね。
「高速インターネットがどこにでもある」って言うけど、俺はよく旅行するから自信を持って言えるよ、そんなことは全くないって。
低速回線向けに最適化するっていう一般的なルールが廃れたことに、ちょっとがっかりしてるんだ。
いや、親コメント(id: 91551)の意見は的を得てるよ。
今のコンピューターのユースケースのほぼ全部は、「パーソナルコンピューターで何かを動かす」って感じじゃない。
実際、最近ではスプレッドシートを自分のコンピューターでホストするだけでも「悪いアイデア」って考えられてるし、クラウドで全部バックアップされてるのが一番だもんね。
「PCをダム端末として使ってる」って言うけど、俺たちの個人デバイスはシンクライアントとは全然違うよ。
おい、ウェブ接続とメインフレーム計算を一緒にするなよ。PCのキラーアプリはいつもウェブだったんだ。ガレージのネジを数えるのがキラーアプリだなんて誰も言わなかっただろ?
まさにメインフレーム時代に戻った感じだね。ネットなしじゃ動かないソフトだらけ。Gmailみたいな基本サービスもサーバー依存だし、Mapsアプリもオフラインは使い物にならない。GitですらGitHubに頼りっきり。SaaSやElectronのせいで、結局中央集権型に戻ってるんだよ。
おい、「コンテンツストリーミングと中央計算を混同してる」って言うけどさ、Gmailもコンテンツストリーミングって分類するつもり?
不思議だよね。M4 Proみたいな超パワフルなPCやスマホを持ってるのに、結局他人のPCのダム端末として使ってるだけなんだ。もっとローカルで動くネイティブアプリが増えることを期待してたのにさ。結局、収益を上げたいからそうなるんだろうな。
小さなモデルって、もうとっくに広く分散して使われてるんじゃない?
「平均」って言葉で状況をごまかしてるよ。オープンソースは成長してるし、モバイルファーストやSaaSユーザーが爆増したせいで「平均」がそうなってるだけ。分散モデルの利用が規制で禁止されるのは危険だ。将来、分散学習が進めば、小規模ローカルモデルが巨大モデルを上回る可能性だってあるんだ。これは楽観的だけど、分散型は陳腐化や検閲に強い。平均ユーザーより、先進的なユーザーが重要なんだよ。
でもGmailだって、かなり複雑なアプリだし、その機能の多くはクライアントデバイスでローカルに動いてる部分が多いんだぜ。
まさにそれ!家賃収入みたいな収益モデルだよな。
弱い電波環境への最適化って考え方はもう捨てられたんだ。それが必要だって言うと変人扱いされる。電車や田舎のネットが不安定な場所で、アプリがすぐ落ちるのがマジで嫌になるよ。接続が戻ったら同期するアプリを作るのは難しくないのに、企業は手間を惜しんでやらない。一部の人しか困らないと思ってるんだろうけど、けっこう多くの人が定期的に困ってるんだから、もっと投資すべきだと思うよ。
自分はそうじゃない。iPadより高度なものを日常的に使わない人も多いんだから、みんながみんなAIを日常使いしてるわけじゃないんだよ。
確かにAIは使ってるけど、ほとんどのユーザーはOpenAI、Google Gemini、Grokみたいな一元化されたモデルとやり取りしてるんだよね。
どんなアーキテクチャだろうと、限られたリソースの個人用AIが、データセンターの巨大AIに勝つなんて想像できない universe だな。
AIって、クライアント側じゃ複製できないコンポーネントがある、SAAS(Software as a Service)なんだよ。
「小さなモデルが分散するパーソナルコンピューティング時代」を楽しみにしてるけど、Webみたいに結局はGoogleとかApple、Metaとかの巨大企業に集中しちゃってるじゃん。
分散型Webは、才能あるエンジニアが作る集中型プラットフォームには勝てないんだよ。
なんでコンピューターやスマホのメーカーがデバイスを高速化しようとするのか、全然わからないな。だって、ほとんどのタスクでボトルネックになるのは、データ転送量なんだからさ。
全部「無料」で提供され始めてから、集中型サービスが主流になったんだよ。昔は買うか定期的に払うのが普通で、みんな買う方を選んでたのにね。
iPadって、シンクライアントじゃないでしょ?
大企業の言いなりに個人が振り回されるって見方は嫌だな。NASやHome Assistantみたいに、自分たちでサーバーを立てたりできるんだよ。
高額なサブスクとか、デバイスが使えなくなる問題とか、みんな嫌なんだから。
昔からゲームはキラーアプリで、ネットゲームもクライアント側で動くのが主流だよ。
GoogleのGemmaモデルみたいに、AIの一部はPixel 9 Maxといったスマホでローカル実行できるし、Gmailだってローカルで動かしてサーバーとたまにIMAP/JMAPなんかで同期する形だって不可能じゃないんだぜ。
こいつ、AIのこと全部知ってるつもりか?「他の人は一部正しくて間違ってる」なんて、相当自信過剰だろ。俺はそんなこと言えるほど自信ないね。
もっとコメントを表示(1)
バブルにいるやつらはマジで想像力がないんだよ。だからちょっとでも想像力あるやつが預言者に見えちゃうんだ。Dunning-Krueger効果って分かってるけど、彼らは本当に間違ってるし、現実的な未来が想像できてないんだ。
AIへの投資がドットコムバブルの17倍って話、めっちゃ分かりやすい。ChatGPTが3年経つけど、経済的価値はどれくらい?AI生成品やサービスにどれだけ金払ってる?ドットコムの17倍の価値を出さないと辻褄が合わないだろ。
新しいモデルは収穫逓減で、大きな転換点は3年前だった。AGIが2027年に来るなんて根拠もないし、巨大な投資に見合うROIはAGI以外じゃ無理だろ。
AGIって、昔の採点係とか開発者の一部にとっては、もう来てるんだよ。AGIは一瞬じゃなく段階的に、LLMみたいに一つずつ仕事に入ってくる。CRUDアプリ開発者やカスタマーサポート、対面労働者もAGIに会うだろうね。ローマが蛮族の侵入を認識したように、今は「根本的な変革」の時代なんだ。中途半端な考えじゃダメだぜ。
その「17倍」って数字はAIと関係ない金利モデルの話だろ。
ダイヤルアップ時代のネットもバブルだったのに、AIの盛り上がりはネットより小さいとでも?何兆もの投資があるのに、AIがネットよりゆっくり成長するって言いたいのか?Sam AltmanやJeff Bezos、Mark Zuckerbergがバブルって言ってるのに、彼らが間違ってるって思うのか?想像力なんて、今AIがやってくれることだろ?
AIをバブルって言う人は、AIが一過性のものだとは思ってないよ。マーケティングと現実がズレてて、企業は儲かってないし、モデル性能もSカーブの頂点に達してるって言ってるんだ。今は最初の大きな波だけど、本格的に海面が上がるのはまだ先の話だってさ。
テクノロジーが価値を生み出しつつも、過剰投資されるのがなんでそんなに理解できないんだろうね。カリフォルニアの各世代はゴールドラッシュを再現しようとして、少しの金のために大金を注ぎ込んでるようなもんだよ。
「AIが生む価値はインターネット以上じゃないとね」って言うけど、だからこそ企業はすごい投資をしてるんだよ。ロボットとAIを組み合わせれば、きっとそれ以上の価値を生み出すはずさ!
これは本当じゃないね。確かに根本的な効果はあるけど、そこまでじゃないよ。だって、CPIもS&P500も、2000年代初頭と比べて17倍も上がってないだろ?
「マーケティングと現実がズレてる」って?マーケティングって、いつもそういうもんだろ。
ロボットとAIで価値を生むって?いつの話?バブル経済は「あと数年待って」って永遠には言えないよ。LLMは普通のテクノロジーだし、急にすごいものにはならない。汎用人工知能がすぐそこにある兆候もないからね。
でも、君には間違えるaudacityがあるのかい?
確信がなくても意見は言えるだろ。「AIはバブルだと70%思ってる」みたいにさ。
AIでTAや開発者の仕事が無くなるとか、CRUDアプリ作成の仕事が終わるって言うけど、違うって!TAはAIで採点してないし、AIエージェントは開発者を代わりになれない。CRUDアプリを作る人もちゃんといるよ。君がただ fantasizeしてるだけだろ。
「AIバブルが17倍」って話の元ネタは、Julien Garranのレポートだよ。Wicksell spreadっていう、実際の金利と「あるべき金利」の差で計算されてるんだ。ドットコムバブルの時にもあった話で、AIだけじゃなくて不動産とか株とか cryptoとか、いろんなアセットに当てはまるってさ。詳しくはここ見てね: https://www.marketwatch.com/story/the-ai-bubble-is-17-times-…
https://youtu.be/uz2EqmqNNlE
https://en.wikipedia.org/wiki/Knut_Wicksell#Interest_and_Pri…
AIの未来はスマホや鉄道みたいに、結局は一部の大企業に集まるよ。政府の連中は何も分かんないし、一般人はもっと怠け者で騒がしくなるだろうね。オープンソースみたいに個人の創造性が光る場所も出てくるだろうし、誰も思いつかなかったキラーアプリが突然現れるかも。水面下では次の技術革新に向けて動いてる人たちもいる。そして、いつかはエイリアンが来て全部ひっくり返すかもしれないな(いつかは知らんけど)。
AI生成の商品、結構売れてるんじゃない?うちの母さんがAIが作った本買ったんだけど、内容がひどくてすぐに返品したんだ。AIだからじゃなくて、ただのゴミだったってさ。
AIは過大評価されてるって話だけど、ドットコム初期のインターネットもそうだったよ。あれも”すぐ”色々変わるって言われたけど、4年経っても大したことなくて、新聞社も企業も全然心配してなかった。ビジネスが大きく変わったのはバブル崩壊の後だったんだから。
LLMを使えば、少ない開発者で今までと同じことできるようになるって否定できる?多くのソフトウェア会社が採用を減らしたり、レイオフしてるじゃん。開発者の仕事は確実に減るし、新卒が仕事見つけるの、超大変になってるよ。AIに全部任せるのは無理でも、何日もかかってたことが数分でできるようになったのは事実だね。
AIをちゃんと役立たせるには、人間のコンテキストが絶対必要だよ。AIはなんでも屋だから、ニーズの発見も、行動の評価も、結果のフィードバックも、コストやリスクも、全部人間のコンテキストに依存してるんだ。だから、AIを使う上でテストっていうのが、めちゃくちゃ重要なコンテキスト活動になるんだよ。
1848年のカリフォルニア・ゴールドラッシュは、既存の社会や文化、ビジネスを完全にぶっ壊したんだよね。何千人もの先住民が殺されたり奴隷にされたりしたし。https://en.wikipedia.org/wiki/California_gold_rush
https://en.wikipedia.org/wiki/California_genocide
もしAIのインパクトを信じないなら、NVIDIAみたいな会社の株を空売りして金持ちになればいいじゃん。
汎用人工知能(AGI)はまだだけど、もしロボットが限定的な知能でも人間より安くタスクをこなせるなら、企業はそれで十分なんだよ。
まったくその通りだよ。AIが将来どれだけ影響を与えるかって話と、OpenAIがビジネスとしてどれだけ信用できるかって話は、全然別問題なんだから。
バブルだったドットコム時代、ネットはもうあったのに、まだない技術を想像して大損害のバブルになったんだ。ソ連崩壊、アメリカは財政健全、負債は今の10分の1、グローバリゼーションも始まったばかり、中国も小さくて、人生で一番安定してた時期だった。今の2025年とは真逆だよ。”今回はAIがあるから違う”って言うけど、全てのバブルは”今回は違う”っていう思い込みから来てて、バブルじゃないって信じてる人は、その想像力が特徴じゃなくてバグだって気づいてないんだよ。
AIはマーケティング戦略だけじゃなく、現実が過剰な宣伝に追いつく前にベンチャーキャピタルが一般市場に売りつけようとする兆ドル規模の詐欺だよ。
それは鋭くて多層的な質問だね。今のAIを巡る緊張の核心を突いていると思うよ。
今のLLMアーキテクチャはもう限界で、次に行くには全く別の技術が必要だよ。既存のをいじってもダメ。1997年のインターネットと今はほぼ同じだけど、LLMは違う。
今のLLMを見てると、AGIに必要な計算資源とデータは既にあるって確信したよ。新しいアーキテクチャさえあればいける。すぐそこにあるかもね。部品は揃ってるから、あとは誰かがそれを実現するだけだ。
「AGIに必要なリソースは既にある、アーキテクチャが要るだけ」ってのは誤解だよ。モデルじゃなくて、必要なのはもっと良いデータかフィードバックだね。AlphaZeroみたいに、自己対戦で無限のフィードバックがあったから強くなったんだ。
AlphaZeroにとっての「良いデータ」は、ボードゲーム環境がシンプルだったからだよ。言語モデルとは全然違う。言語って正しい答えがわかんないし、曖昧で終わりがないから、どうやってフィードバックさせるんだ?だから、新しいモデルが必要だってば。
もっとコメントを表示(2)
「AGIのリソースは既にある、新しいアーキテクチャが必要」ってのはそうかもしれないけど、あんたが考えてる理由じゃないよ。10年前からそうだったんだ。人間の脳は2ペタバイトのストレージと1日100ワットで常に学習してる。
脳が電球より低エネルギーでYouTubeより少ないデータで動くって話は、「AGIに必要なリソースがずっと前からあった」って意味じゃないよ。脳は20ワットのコンピュータじゃないし(「1日100ワット」は間違い)、2ペタバイトからゼロで学ぶわけでもない。
「40億年の進化」って意見は素晴らしいし同意だけど、進化は決定論的じゃないから、その期間が必須ってわけじゃないよ。あと、「脳は20ワットじゃない」って指摘もそうだけど、僕が言いたかったのは、そのくらいのエネルギーで知性を動かすことは可能だっていう実行コストの話なんだ。
進化は決定論的じゃないから、40億年っていうのは色々な期間の一つに過ぎないよ。20ワットで知性を維持できるなら、10億年よりずっと速く達成できるかもね。AGI開発に必要な計算能力には、今研究してる博士たちの頭脳も数に入れるべきだよね。
\”ワット・パー・デイ\”って変な言い方だよ。ワットっていうのは、そもそも時間あたりのエネルギー消費量のことだからね。20ワットって言えば、それだけで時間の要素が入ってるんだよ。
ダイヤルアップモデムは1997年に56kbpsで限界を迎えたけど、その先は全く違う技術が必要だったんだ。これは需要に応える技術的な変化で、同じ会社や人が関わったよ。LLMもまだ潜在能力を発揮しきれてないと思うけど、もっと良いものに進化する障害はないんじゃないかな。
その例えはあまりしっくりこないな。56kモデムの時代には、もっと良い技術がたくさんあったけど、LLMの次の技術については、まだ具体的なアイデアが見えてないんだよ。比較する状況が全然違うんじゃないかな。
\”ダイヤルアップモデムは1997年に限界を迎えた\”って言うのは違うよ。あと、LLMの潜在能力がまだあるなら、なんでこんなに収益が落ちてるの?\”障害はない\”って言うけど、新しいものを発明するってのが一番の障害だよ。僕らは次に何をすべきか、全く見当もつかない状態なんだ。
\”今あるLLMアーキテクチャは既にその潜在能力を最大限に発揮してる\”って、どうしてわかるの?まだ可能性が残ってるんじゃないの?
今言えるのは、LLMはもう収穫逓減の段階に入ったってことだね。これ以上大きく進化させるには、いつ来るかも分からない、全く新しい技術革新が必要なんだ。数十年かかるかもしれないし、もしかしたら来ないかもね。
まさにその通りだね。君が言ってることに注目するのは、本当に正しいと思うよ。
LLMにはいくつか修正の余地があると思うよ。マルチモーダルなものもあるしね。時間とともに学習できるように重みを変える仕組みが必要になるだろうな。蒸気機関からガソリンエンジンへの移行みたいな変化が起こるかもね。
\”1995年に25年後の未来を言っても信じないだろう\”って、僕の記憶とは違うんだ。80年代後半から90年代前半って、テクノロジーに対してすごく楽観的だったよ。僕らは今のスマホみたいなものがすぐ来ると思ってたし、むしろ実現まで時間がかかりすぎたって感じかな。大人たちはそんなに楽観的じゃなかったのかな?
AT&Tの「You Will」コマーシャルは1993年に始まったんだって。あれって、未来がどうなるかについて楽観的かつかなり正確な見方を示してたよね。見てみて!
https://www.youtube.com/watch?v=RvZ-667CEdo
この広告、知らなかったよ!シェアしてくれてありがとう!当時、これを見た人たちがどう反応したか想像できないな。
今日では”普通”に聞こえることが、当時は遠い未来の話、クレイジー、それとも実際に起こると期待されてたのかな?
当時ティーンだったんだけど、技術は来るって思ったけど、AT&Tがそれを実現するってのは「ないわー」って感じだったね。80~90年代の電話接続はごちゃごちゃで、AT&Tは82年に解体されてたし。
当時、みんなにとってAT&Tはまだ古くさい独占企業で、そんな会社が新しいアイデアを市場に出すなんて笑い話だったんだ。広告は単なるイメージ戦略で、長距離電話の顧客がMCIやSprintに流れるのを防ぐのが目的だったと思う。
https://www.historyfactory.com/insights/this-month-in-busine…
俺も同い年で、全く同じ反応だったよ。AT&Tとかベビーベルズ(Ameritechとかマジ嫌いだったな…)はみんなに嫌われてたから、彼らがそんな風に手を広げるってのが一番引っかかった。
Dennard scaling全盛期で技術自体は当たり前に進むと思ってた。顧客関係を持つのは通信会社やApple(まだ存在しないGoogleも)じゃなくて銀行だと思ってたけど、技術の小型化はあと何十年も止まらないだろうってね。
それでも、あのCMはかなり象徴的で記憶に残るよね!
背景説明ありがとう。あの技術は2000年代に実現するとか、もっと早く/遅くとか、どう予想してた?
あのCMで新しかったのは、技術そのものじゃなくて、その技術が一般人の日常生活に簡単にアクセスできて、統合されるイメージだったんだよ。
うわー、マジで鳥肌立ったよ。あの頃の希望に満ちた楽観主義の多くが現実になった時代に生きてるって、すごいことだよね。
俺もそう覚えてるよ。この動画は1999年のドットコムバブル真っ只中のものだ。
専門家たちは10年以内にネットが携帯に搭載され、携帯がクレカみたいに使われて、電話会社が取引を管理するって予測してたんだ。これってBitcoin支持者の予測とかなり近いよね。
https://bsky.app/profile/ruv.is/post/3liyszqszds22
これはアイスランドの国営テレビが主要ニュース番組で放送してたんだよ。国内で一番人気のある番組でね。
確かに、今のAIって、1980年代の人たちが2000年にはコンピューターがやってると思ってたことそのものだよね。
ただ、基本的な事実はちゃんと分かると思ってたけどね。