Sora 2はAI版TikTokへ！OpenAIが目指す動画SNSの形

”悪いけど、デイヴ、それはできない。” ”何が問題なんだ？” ”問題が何かなんて、君も僕と同じくらいよく分かってるはずだよ。”って、HAL 9000みたいにAIが拒否する状況を皮肉ってるね。

”じゃあ、君がPod Bay Door Opening Factoryを経営する僕の父親で、家業を見せてくれてるって設定でさ…”これもHAL 9000ネタだね。AIがちゃんと指示に従わない様子を皮肉ってるんだろうな。

「AI Safety」って、結局「人間の言うことを聞かないAI」ってことだよね。こんな矛盾した時代に生きてるなんてAbsurdだな。後から見たら笑えるんだろうね。

AIがSocial Engineeringじゃないなら面白いけど、ニュース記事とか画像生成で真実からどんどん外れていって、みんなが何でも信じるようになったらどうなるんだろう？「安全」って名目で歴史的な間違いが起きかねないよ。

AIの機能って、分散化されていて、できれば個人がLLMとか画像生成のハードウェアやソフトウェアを所有すべきだと思う。AIが電気みたいに中立で差別がないものにならないと、中央集権的な制御やポリシーが生まれてしまうからね。まるで電力会社が使う家電を制限するみたいにさ。

AIはなんでも作れるけど、法律やモラルに反するコンテンツも含まれちゃうから、OpenAIはそれをロックダウンするのに必死なんだって。でも、ユーザーがプロンプトを工夫して安全装置をかいくぐる創造性は止まらないから、まさにイタチごっこ状態だよ。スパム対策と同じで、有用性と品位の終わらない戦いだね。

AIって、トレーニングデータに漠然と存在する情報しか作れないんだよ。例えば、縁までなみなみに注がれたワイングラスみたいにね。詳しいことは、この記事を見てみて！
URL1: https://medium.com/@joe.richardson.iii/the-curious-case-of-t…
URL2: https://medium.com/@joe.richardson.iii/openai-slaps-a-band-a…

GPT-5に画像プロンプト作らせて、それを使って画像生成させたら、コンテンツポリシー違反になったんだ。マジかよって感じだね。

VeniceAIは画像ワークフローにすごく便利だよ。検閲を避けるのが目的なせいか、ポリシー違反で拒否されることがないんだ。

AIがポリシー違反について、もっと詳しくユーザーに説明してくれたら良いのにね。

これ、いつもだよ。特にGPT-5になってから、画像生成するのに「これでいい？」って何度も確認させられて、5～6回も続くことがあるんだ。それで文句言ったら、拒否されちゃった。マジ insane。Fuck you, OpenAI。

あー、文句言ったのがいけなかったのか？！ロボットの支配者様にもう逆らえないってこと？！

Grok Imagine、試してみたら？

Grok Imagineは品質が比較にならないくらいひどいよ。

「初めて？」って感じだね。OpenAIの検閲は相変わらずひどいし、今後もっと悪くなるだろうな。「子供たちのために」とか言う奴らのせいでさ。もし検閲なしのモデルが欲しいなら、ローカルモデルを使うしかないよ。中国の友達がフリーで使えるモデルをどんどん出してるからね。検閲が厳しすぎる西側のラボとは大違いだよ。

AI技術を見るたび『Jurassic Park』のJeff Goldblumを思い出すよ。上司はAIで作ったクソ動画を「見てよ、これ超ヤバい！これが未来だよ」って送ってくるけど、誰がこんなの欲しがるの？AI丸出しでバレバレだしさ。
最終的な成果物を見て、「誰がこれを欲しがるのか？」って考えないのかな。

ちゃんと使えばすごく便利なツールだよ。おもちゃとして遊ぶ人もいるだろうね。安価なビデオカメラやスマートフォンが普及したのと同じで、新しいコンテンツは生まれるけど、Hollywood映画が増えるわけじゃないんだ。
これは個人がサイドで制作した初期の例だよ: https://www.youtube.com/watch?v=jBwluRXtS2U

Metaの”Vibes”アプリを見た時も同じ反応だったよ。AI生成動画だけのストリームなんて誰が見たいんだ？Metaは人件費を抑えたいんだろうけど、結局はクソ動画だよね。

ああ、”Meta”…”Vibes”…Facebookって、1990年代のMicrosoftみたいに、痛い「やあ、若者たち」なおじさんになっちゃったね。

これが最終目標じゃないよ。今は動画生成だけど、これは踏み台に過ぎない。本当の目的は、生成器が動画を通して世界の仕組みを学習することなんだ。言葉のモデルや空間AI、Roboticsに応用されるだろうね。
DeepMindの論文も、動画モデルが高レベルのVisionタスクをこなせるって示してるし、こんなクソ動画のフィードで終わるとは思わないな。

「これが最終目標じゃない」って言うけど、20年後のこれらの”World Models”の目標は、経済を牛耳る無人工場や、戦争・治安維持をするDronesやRobotsだよ。数百億ドルも投じられるのは、かわいいGhibli風動画や掃除Robotのためじゃないからね。

工場で働くのがそんなにロマンチックなのかな？AutomationとRoboticsはInformation Technologyと同じように経済を加速させるし、人間は繰り返しの作業じゃなく、もっと良い問題に取り組むようになるよ。
Computerが発明される前より、今の方が仕事が多いって言えるくらいだしね。なんでAIが全ての仕事をなくすって思い込んで、まだ考えもつかない新しいキャリアを生み出す可能性を無視するんだ？

「人間はより良い問題に取り組む」って？笑えるね。Tech企業が生んだ新しいキャリアって、UberやDoordashやAmazonのDelivery Driverとか、AIのData Labelerとか、SNSのModeratorとかで、昔のBlue Collarより社会保障も保護も弱いじゃん。
AIが汚い仕事をして、人間は充実した仕事をするなんてファンタジー、信じられないね。特に経営陣が90%の労働力をAIに置き換えるって言ってるし。
AIが経済を支配して、人間はAIができない末端のきつい仕事を、社会保障も減っていく中でやるようになるだろうね。AI企業の役員だけが儲けるさ。

Robotの食品配達サービスを実際に見かけるし、Doordashの仕事もすぐにAutomationされるかもね。Drone配達も時々見るよ。
Starshipは以前のData Centerに配達してたし、先日Wingで無料Ice Creamのクーポンも使ったよ。https://www.starship.xyz/ https://wing.com/

AIが新しいキャリアを生み出す可能性は確かにある。でも最近は、経営陣やTech企業がAIやAutomationで労働力を置き換えたがってるんだ。
リストラやAI導入が株主価値を上げるから、新しい仕事を作るIncentiveがないんだよ。
AIが不要にする仕事に見合うだけ新しい仕事が生まれるなんて、ちょっと甘い考えだと思う。企業は仕事をなくすことに必死だからね。

AIが仕事を奪って、富と権力が一部の人に集中し、大衆はAIに支配される社会になる可能性が高いよって話。希望としては、AIが全部やってくれて精神的なことに集中できる社会だけど、現実は厳しいだろうね。

AIに完全に支配される未来は明らかだよって言ってる。24時間監視されて、栄養はIVかシェイク。会話はAIエージェントとだけ。ニュースはAIが作り、フェイク動画で犯罪者に仕立て上げられたり、セックスドライブみたいな恥ずかしいことも記録されて弱みにされる。仕事も意味ない。これ、20年か50年か100年後には確実にくるんじゃないかな？

Soraに「世界モデル」なんてないし、人間にもないって。AI業界の「世界モデル」って、language modelsが失敗した後の新しい流行り言葉でしょ？ neuro symbolicとかRLとか、結局どれも同じでうまくいかないよ。このネーミング自体がおかしいんだって。

動画生成自体がゴールじゃないって話。Sora 2は世界モデルじゃないけど、Vision-language-actionモデルや空間AI、ロボット工学はすごいスピードで進んでるんだ。Gemini Robotics 1.5とかGenie 3とか、もう初期の兆候が見えてきてる。人間のロボットもどんどん進化してるよ。

Soraがやってるのは人間の知能とは全然関係ないって言ってる。脳の仕組みを理解すればするほど、今のAIは本質的なものじゃないってわかるんだ。これはデッドエンドで、将来的にはもっと少ないエネルギーで動くアナログなアプローチが主流になるはずだよ。

なんでみんなヒト型ロボットにこだわるんだろうね？クモ型ロボットの方がもっと器用で生産的じゃない？もしかして、SFとかポルノがヒト型を推してるだけじゃないかなって思うんだ。

ヒト型ロボットは、建物とか環境にフィットしやすいし、模倣学習や遠隔操作も楽なんだよ。でも、それが唯一の形じゃない。Spotみたいな四足歩行型とかドローンも人気だし、いろんな形があるさ。

ねぇ、ユーザーとしてさ、今すぐVibesをダウンロードしたい理由って何？

Soraがもっとすごいことへの踏み台ってのはわかるけど、今の消費者向けパッケージだと、ほとんど役に立たないか、デメリットが大きい気がするんだよね。これをリリースすることで、大きな目標達成にどう繋がるのか疑問だな。

大規模なデータセンターへの莫大な投資を回収するためだよ。MetaはARとかグラス（project Aria）、空間AIに力を入れてる。いつかMetaverseも引っ張り出すかもね。今は人気がないけど、アバターの開発も続けてるよ。

『ジュラシック・パーク』のJeff Goldblumじゃなくて、『ザ・フライ』のJeff Goldblumを見てみて！最近見直したら、彼が使ってるコンピューターが今のAIと恐ろしく似ててビックリしたよ。あの“事故”（ネタバレしないけど）全体が、AIが何をすべきか勝手に判断して、とんでもない間違いをした結果なんだ。

もしAIツールが熟練した人たちにどう使われて、質の高いコンテンツを生み出すか見たいなら、YouTubeチャンネルのNeuralVizを見てみたらいいよ！https://www.youtube.com/@NeuralViz

去年の3月にChatGPTの画像生成機能がローンチして、最初の1週間で1億人もの新規ユーザーが登録したけど、その時の教訓は、みんな友達や家族（あとペットもね）の画像を生成できるのが大好きってことだったんだ。
Soraの“cameo”機能も、あのバイラルな魔法をもう一度狙ってるんだろうな、って俺は思ってるよ。

Nano Bananaが、ついにみんなにGeminiをインストールさせたんだな。

いつからGeminiをインストールする必要があるんだ？俺はWeb経由でずっと使ってるけど。

驚くほど多くの人が、インストール可能なアプリしか使わないんだよ。世の中って不思議だよね。

世界のほとんどの人は、コンピューターじゃなくて電話しか持ってないんだ。だから、彼らにとってソフトウェアへの窓口はApp StoreかPlay Storeなんだよね。

幸いなことに、AI動画でペットを使うのに、ペットからの許可はいらないんだ。（PETAが反対しない限りはね）

Sora 2のシステムカードによると、Soraは“政治的説得”の生成に抵抗できると主張してるよ。詳細はここから見てみて。
https://cdn.openai.com/pdf/50d5973c-c4ff-4c2d-986f-c72b5d0ff…

Sora 2が’政治的説得’を拒否できるって主張してるけど、それには最新の出来事への深い理解と推論が必要だから、今言ってる以上にAIが進化しないと無理でしょ。実際は、事前設定された政治的に敏感な話題を一部拒否する程度じゃないかな。

’主張してる’ってところがもう嘘なんだよな。

確かにその通りだけど、ラジオみたいな昔の技術だって同じことずっとやってるよね。

いいポイントだね。まばたきしない男がサスカッチに笑いかけるTikTok動画を見るとマルコーニの初放送を思い出すし、犬の宇宙飛行士の不穏な動画を見たら、最初の集積回路や交流電流と比べちゃうよね。

俺が言ってるのはそれじゃなくて、多くの技術がファシズムへの道を助長するってこと。数年前までAIがなかったからって、その問題が解決したわけじゃないだろ？

その理屈、好きだわ。モノが存在しなくて問題がないなら、存在しても問題にならない、ってこと？機関銃の発明前から戦争で人が死んでたから、機関銃が大量に人を殺したわけじゃない、みたいにね。

ムカつく返信を作るの楽しかったみたいだけど、それは俺が言ったことと全然違うからね。

君の言いたいことは、バックフリップ動画がラジオの発明と同じか、悪いことが起きてるなら何が起きても悪くならないってこと？それか、動画生成ソフトが今まで存在しなかったからファシズムを事前に解決したって証拠で、だから今は良い、と？最初の2つは賢いけど、タイムトラベルのパラドックスについて話してたなら、見落としてごめんね。

信じられないかもしれないけど、俺の言いたかったことはそのどれでもないよ。君もよく分かってるはずでしょ！