2025年 ベンチャーキャピタルはもう全て順調と偽れない

＞今のVenture Capitalの状況はね：AI以外は死にかけ。AIもOpenAI以外は死にかけ。OpenAIはAI God召喚するために爆速でお金燃やしたい変な詐欺。誰も現金化できないね。
俺にとって面白いのはね、OpenAIの賭けがいかに投機的かってことだよ。
確か2019年にウェブUIがあったGPT 2.0いじったけど、面白いオモチャだった。その後ChatGPTを2022年12月頃のローンチから使ってるけど、あれはまさにパラダイムシフトだった。本当の創発的な振る舞いを見せて、すごく面白いことできたんだ。
2019年～2022年は3年。大した騒ぎも投資もなかったけど、とんでもない進歩があった。
で、今、ここ3年くらいで合成ベンチマークでは進歩あったけど、今のChatGPT 4.5の感触は2022年のGPT-3/GPT-4の頃と正直同じ。4.5/o3は3.0より劇的に賢くなったわけじゃないよ。幻覚は少ないし、ウェブ検索とか指定された調査はできるけど、パラダイムシフトじゃないね。このまま進んでも、インターフェースとかツールが良くなるだけだろう。LLMsで超知能（人間以上の洞察力、スキル、 inventiveness）なんて可能なのか、全然明らかじゃないね。

これ今すぐ、今日できることだよ。
地元のRay-Banストアに行って。
Meta glassesのペアをいじらせてもらうんだ。
”Live AI mode”を起動して。
見たものが見えるAIとリアルタイムでビデオ会話するんだ。言語翻訳したり、テキスト読んだり、物体認識したり、現実世界とインタラクトできるんだよ。
君の（多分記憶違いの？）歴史と違って、2019年にこんなこと全然できなかったんだ。俺は初期のGPT-2をStar Wars小説の大量コーパスでファインチューニングして、生成モデルを実行したら”Luke”って言及するだけで感動したのを覚えてるよ！今はそれを頭に装着してレストランのメニューを読んでる。Uberを探すのに使ったり（これどんな車？って聞くんだ）。今日裏庭でレイズドガーデンベッド作ってるんだけど、買った色々な土壌改良材読んで、hugelkultur層の上にどれだけbloodmeal入れるか話したり、計算させたり、要するに目ん玉のペアにしてるんだ。俺、盲目なんだよ。これらのものから得られるutilityは…言い尽くせないほどすごい。
これが”moribund”なら、もっとこの衰退に参加したいね。

この批判の精神はわかるけど、タイムラインを混同して、物事が”動いてない”と感じやすいと思うんだ。実際には、研究と改善のペースはすごいよ。
背景を説明すると：
・GPT 2は2019年2月リリース。
・GPT 3はその約18ヶ月後、2020年に登場。 huge jump だったけど、まだ多くのことに”usable”じゃなかった。
・InstructGPTはその約18ヶ月後、2022年初頭に登場、 huge advancement だった。これがRLHFの big moment。
・約10ヶ月後、ChatGPTが2022年末にInstructGPTの”sibling”としてリリース。”open research preview”って感じだった。この頃OpenAIは特定のモデルを”3.5 family”と呼び始めた。
・GPT-4は2023年3月リリース、まだ2年ちょっと前だ。 huge jumps in performance、 context window size、そして画像もサポートした。この頃ChatGPTは1億ユーザーに達して、本当に reliable で widely adopted なツールになりつつあった。この頃Cursorみたいなツールも市場に出始めたけど、まだ爆発してなかった。モデルがまさにこれらの種類のアプリケーションにとって”good enough”になりつつあったんだ。
・GPT-4-Turboは2023年11月リリース、さらに大きな context windows と低価格化。
・約12ヶ月前、GPT-4oリリース。既存ベンチマークで4よりわずかに性能向上、でも50言語くらいの state-of-the-art な audio capability サポートがすごかった。
・5ヶ月前、o1リリース。これが test time での scaling compute の big moment で、MLの主要な現在の研究方向だ。いくつかの数学/推論ベンチマークで huge improvements（4の約8倍くらい）を見せた。数ヶ月以内にo3とo4が登場、これらのスコアをさらに substantially 向上させた。
・今年の2月に4.5が出て、数ヶ月後に confusingly named 4.1が登場、4oより改善が見られた。
だからはっきり言うと、2019年には数人しかいじれなかった面白い研究プロジェクトがあっただけだ。
18ヶ月後、API経由で遊べたけど、まだ toy だった better model があった。
それからChatGPTになるまでに2年以上かかり、さらに数ヶ月（合計約3年）で、本当に世界を席巻した”useful”バージョンのChatGPTになった。”novelty text generation”から”useful text generation”になるまでに、ざっくり4年半かかったんだ。
それ以来の2年間で、 multimodal models、推論モデルの新しいクラス、性能全体の baseline improvement などがあった。むしろ今の方が、前よりも fundamental research や wider variety of directions（パラダイムシフトをもたらすようなもの）が多いんだよ。

＞何も役に立つことできない
ああ、ごめん、でも君の考えはデータに支持されてないよ。oAI、anthropic、googとかの間で、年間何十億ドルもトークンに費やされてるんだ。これはもうオモチャじゃないよ。みんな何かしらの方法で使ってるんだから、彼らにとっては useful — 何十億ドル規模でね。抽象的にどれだけ役に立つかってのはまだ議論の余地があるけど、今日役に立ってるのは事実だよ。

俺にとってfascinatingなのはね、こういうstraight out of sci-fiなものが novelty や demo で終わって、そんなに人気なさそうだなってこと。ほとんどの人は全然興味ないんだよ。
面白いのは”boring”なものだね：退屈な仕事の自動化、もっと良い調査方法とか。
俺はグラス — ARでもVRでも — が niche なままだろうって何年も前から予測してるんだ。ほとんどの人は欲しがらないと思うね。

その何十億ドルは、一つでも viable な製品を生み出したの？

＞リアルタイムでビデオ会話できるAI…テキスト読んだり、物体認識したり、現実世界とインタラクトできる
多分俺の想像力が極端に低いせいだろうけど、そんなのGoogle LensとかLLMsのvision flavorで前からしばらくあったし、数年に3回くらいしか使ったことない。そして、歩きながら道で建物についてAIに声で質問して答えを待つとか、一度も”あー、できたらいいのに”って思わなかった。重要ならGoogle Mapsから直接Wikipediaページ見て全部読むか、そうじゃないか、だね。
＞テキスト読んだり、物体認識したり、現実世界とインタラクトできるAI
それ俺、自分の目玉で結構うまくできてるし、幻覚とかプライバシーとか電波悪いのとか俺の英語訛り悪いのとか心配する必要ないんだ。視覚障害者にとっては確かに amazing tools だって理解してるけど、それはMeta/OpenAIが狙ってる市場じゃないし、無理やり押し付けようとしてるわけじゃないんだ。
だからそう、もしかしたら海外旅行で使える場面はあるかもしれないけど、俺は通常休暇中はテクノロジーから_離れたい_んだ。だから本当に pointless だと思うんだけど、彼らは俺が target audience だと思ってるみたいだね？

インターネットもそうだったよ。そのうち違うようになる。ゆっくり燃えて、ある日振り返ると everywhere だって気づくんだ。
ドットコムバブル崩壊後でも、ネットで会った人に会うべきじゃないとか、知らない人の車に乗るべきじゃないとか、まだ generally shared な理解があった。今日は、知らない人をネットで召喚して車に乗るのが目的で、それが完全に banal なんだよ。
こういう変化は時間がかかるし、アーリーアダプター段階では、アプリケーションが half-baked に見えたり、 problem を探してる solution に見えたりする。だってほとんどはそうだから。そうじゃない少数が、時間が経つにつれて accrete して、 solid base になるんだ。

＞幻覚とか心配ない
I see. もしかして、俺が盲目だって部分を読み飛ばした？
俺のコメントの entire purpose は、AIが2022年で止まってるっていう考えに push back することだったんだよ。 weird で nonsensical で disingenuous に見える。特に俺が”前はできなかったことが今できるんだ”って言ってるのに、一般的な反応が”でも俺はそんなことする必要ない！”ってなるのがね。

全く同意できないな．最初のChatGPTは、コンピューターと自然でスムーズな会話ができるのが超クールで魔法みたいに感じたけど、あの会話の裏側ではめちゃくちゃバカなコンピューターだったんだよね．最近のモデルは”推論”とかツールを使わなくても数学を正確にできるようになった．GPT-3なんて基本的な算数もほとんどできなかったのにさ．

＞ The interesting thing, to me, is how speculative OpenAI’s bet is．
OpenAIのAGIへの賭けがどれだけ投機的かなんて実際どうでもいいんだよ、消費者向けAIビジネス自体で金に溺れるのはほぼ確実なんだから．今損失を出してる唯一の理由は、無料ユーザーを広告でマネタイズしないことを選んでるから、おそらく利益を出す必要がないから成長を優先してるんだろうね．でも広告スイッチをオンにした瞬間、彼らのトラフィックは超高収益でとんでもない高マージンになるだろうな．

進歩をLLMレベルだけで比較するのは単純化しすぎだと思うな．過去2年間でAIは大きく進歩したけど、テキストトークン生成だけじゃなくもっと多くのことを考慮しないとね．超リアルなだけでなく、ComfyUIみたいな複雑なツールを学ばなくてもテキストで修正したいものを指示できる画像生成があるし．多くの言語で超リアルで流暢なだけでなく、感情も表現できるテキスト読み上げやオーディオ変換もある．毎月どんどんリアルになって計算量も減ってる動画生成もある．3Dモデル生成でも大きな進歩がある．テキスト読み上げはまだ改善されてるし、スマホで動くくらい速くなって遅延も減ってる．次のフロンティアはAIがロボットにどう応用されるかだね．エンドユーザーにはセクシーじゃないけど、ヘルスケアでの応用分野も言うまでもないよ．

でもそれが普通のイノベーションの進み方じゃん．大きなジャンプがあって、その後にたくさんの細かい作業があるんだよ．みんなは指数関数的に良くなるって期待してるけど、こういう種類のイノベーションはもっと逆べき乗則に近いんだよね．

＞ ChatGPT 4.5 today is still the same as it was with GPT-3/GPT-4 in 2022． 4.5/o3 doesn’t seem hugely more intelligent then 3.0
3.0がどうだったか、誤解してると思うな．確かに2.0から3.0への傾斜はすごく急だったけど、過去数年間で大量の進歩があったんだよ．

それは俺の経験とは違ったな．1995年にウェブチャットで知り合った友達と現実で会ってたけど、誰も全く怖がってなかったよ．IRCやウェブは今のSnapChatと同じくらいで、5年前のAOL IMよりも奇妙だなんて思われてなかったし、それはさらに前のBBSesともほとんど変わらなかったんだ．だから、1995年にはたくさんの人がオンラインで会ってたんだよ．5年後にはインターネットで出会ったカップルがあちこちにいた．2000年にSilicon Valleyに引っ越したとき、”妻とはオンラインで出会いました”なんて会話のきっかけにすらならなかったね．（実際、妻とは1995年にThe State of Insanityのウェブチャット掲示板で出会ったんだ．）あと、1998年から2008年にかけて、世界は今AIのLLMにこの10年で投資したのと全く同じ額を投資して、すでに毎年1兆ドル以上を世界経済に加えてたんだ．AIは、ほぼ同じ期間に同じ支出をしても、まだ経済的なブラックホールで、VC以外を満足させるような答えは誰も持ってない、それがどうやって全部元を取るかってことについてね．インターネット、特にEメール、IM、ウェブは90年代には盛んだったし、2000年代半ばまでには完全に支配的だった．この歴史の書き換えで、AIがもっと滑走路を与えられて、’98年から’08年にかけてのインターネット構築で費やされた1兆ドルみたいな持続力のないものに、さらに何千億ドルも燃やすのが当然だなんて示唆するのは違う．こういうのは時間がかからないんだ．ブロードバンドインターネット全体で約10年かかって、この最新のバブルでAIが得たのと同じくらいのお金がかかった．少なくともドットコムバブルが弾けたとき、俺たちには持続力のあるインフラと真の社会的価値が残ったけど、AIはそのバブルが弾けたときにほとんど何も残さないだろうね．

長い間、親コメントと同じような気持ちでいたんだ．そしたら弟が座らせてくれて、携帯を取り出して、chatGPTを会話モードにして、5分くらい話してくれたんだ．それがchatGPTに本当に驚いた二度目の経験だったな（最初の会話では、Postgresがどう動くかについて結構詳しく教えてもらった後ね）．自然で文脈を理解した会話ができる能力が本当にすごいことになったよ．なんだか元のコメント主には同意するんだ、2025年にchatGPTを本当の仕事に雇える可能性は2022年よりそんなに近づいてないと思うってことにはね、でも同時に君にも同意する、意味のある進歩があったってことには．特に、障害者にとって革新的な製品は、健常者にとってもだいたい現状より大きな改善になるんだよ（Oxo Good Gripsが古典的な例だね—関節炎の人にとっては革新的だけど、他の全ての人にとっても全体的にただ良いものなんだ）．

これが俺がいつも立ち返る疑問だよ．これが例えばソフトウェア開発者を実際にスーパーチャージしてるなら、なんで俺たちはより良いソフトウェアに全くあふれてないんだ？ってね．

だってほとんどのソフトウェアは良い必要がないからだよ、”まあまあ仕事をするのに十分”なラインに当たるだけでいいんだ．AIはこのユースケースの速度を改善するんだよ．

ウェブ検索にかける時間は減ったと思うよ、まあ．でもその代わりに金払わないといけないし、まだ監視資本主義プラットフォームに自分の行動データを提供する必要がある．データ分析やグラフ生成、インサイト得る能力も向上したけど、その出力は完全に信用できないから、最終確認は自分でやらないといけないね．ウェブ検索も実際そうだけど、包括的に調べる必要がある時はね．

うん、幻覚は減ったけど、まだまだすごく幻覚起こすよ。知能ってのは、たとえものすごくデカい言語モデルでも、ただの言語モデルじゃないんだってことを、これで証明してるんじゃないかな。

ホントそれ。3.0が出てから仕事で毎日使ってるけど、結果の効率は多分30-40%くらい上がったかも。でも、上の人が言ってるように、パラダイムシフトはないんだよね。新しい機能は全部なんかギミックっぽいし、OpenAIは先行者メリットを結構前に失くした感じ。

”Metaのメガネのペアと遊んでみて”【原文まま】
皮肉なことに、この誤植はAI音声認識の間違いの結果っぽいんだよね。「彼らのtheir」とか「そこにthere」みたいな人間のよくある間違いじゃなくて、「一組pair」と「梨pear」を間違える人間は見たことないから。
だからさ、5年前にはできなかったクールなデモは確かにあるよ。でも、そのクールなデモが実際の日常生活で費用やリスクを上回るくらい役に立つものに変わるのかっていうと、それは全然ハッキリしてないね。

これって冗談？Chatgpt自体はちゃんと使える製品でしょ（有料ユーザーの数を見ても）。それにコード生成も色んな実装方法があるし。
2023年から岩の下に隠れてたって言うなら別だけど、「可愛いおもちゃ、見てよPythonコードみたい」から「えっと、このAIが作った、手直し一切なしの走り書きメモからのフルスタックアプリ、多分セキュリティバグあるから気をつけて」まで、あっという間に変わったじゃん。

うん、多分それは見落としてたと思うけど、まあ最初にそれを言っとくべきだったかもね。AIが盲目や弱視の人たちに新しい使い道を提供してるってのはすごいことだよ！あなたの視点は励みになるよ。同時に、「盲目の人にとってのキラーアプリ」が、目がしっかり見える人にとってはそんなに役に立たないように見えるのも想像できると思う。個人的にはまだ役に立つ側面はあると思うし、良い例を挙げてくれてるけど、「第二の目」みたいな側面は、私にとっては価値が低いかな。

企業はお金を払ってもいいって思ってる、ってだけだよね、それは違うことだよ。個人的には、これにお金は全然出したくないな（まあ、1ドルくらいなら出すかもだけど）、だってジェネレーティブAIが特に役に立つって全然思わないんだもん。

Deep Research見たことある？あれに旅行の予定全部作ってもらえて、人間にお金払わないとできなかったことが自分でできるなんて、マジでぶっ飛んだよ。

でも、それって商業的に成り立つ製品になったの？
そこがまだ足りないステップみたいだけど。

私も似たような感覚だよ。LLMで検索とか質問のやり方が新しくなったけど、それよりも実際のゲームチェンジャーだと感じるのは副産物の方。私にとっては、画像認識モデルと、すごく高性能なSTT（音声認識）とTTS（音声合成）かな。私は盲目だから、VisionとSpeechにこれだけたくさんの現実世界での使い道がある自分なりの理由があるんだよね。もちろん、LLMは出てきてるアプリのバックボーンだけど、使い道という点で本当の進歩は端っこの技術にある感じ。…（以下要約）…ただ、私にとって当たり前な欠点（数字の発音、画像認識での数値読み取りの不安定さ）が改善されてないのは残念。彼女も、LLMが出てから計算できないコンピューターができたねって冗談言うほど。でもやっぱり、whisperみたいな副産物には本物の革命みたいに感じるものがある。こういうものの一部は、すごく大きな飛躍だと感じるんだ。

それってGoogle lensがもう10年近く前からやってることじゃないの？

OK、でももしこれで開発者が12倍になるなら、なんで5年前にあったクソソフトが12倍になってないの？
使えるソフトの量がすごい増えた感じしないんだけど。新しいワープロが何十個も？
MIDIシーケンサーが何百個も？
テキストエディターが何千個も？
もし本当にソフト作りが簡単になってるなら、そのソフトどこにあんの？