クロード4ついに登場！

安価なコーディングエージェントがオープンソースのために何ができるか楽しみ！：） 俺の製品CheepCode［０］の無料クレジットを配るべきだと思ってて．試したい人はメールしてね！
［０］ ”assign to copilot”みたいなヘッドレスなコーディングエージェントで，タスクボード（Linear，Jiraとか）から複数タスク並行で動く．単純な機能は成功してる．テスト良いとコードも良い（テストも書ける）．

Copilotにいつ搭載されるか，ニュース見た人いる？

実際のところ，俺は逆だと思ってるんだ．古いプロジェクトの依存関係を新しいメジャーバージョン（例えばZod 4とかTailwind 3とか）にアップグレードするのって，ガイド読んで反映させる，つまりテキスト変換作業なんだ．感謝されないしつまんない苦役だよ．俺はキャリアの中でこういう作業はもうそんなにやらなくなるって，すごく自信あるね．

特にEUがオープンソースの貢献者にサイバーセキュリティの責任を負わせる法律（Cyber Resilience Act）作ったばっかりだしね．AIに貢献させとけば大丈夫ってことになる．

オープンソースプロジェクトは例外になったんじゃないっけ？
https://opensource.org/blog/the-european-regulators-listened…

個人的には，まだまだ先は長いと思ってる．依存関係の調整にはニュアンスが多くて，直しにくい微妙なエラーになることも．
例えば多くのLLM（Gemini 2．5とかClaude 3．7）は動的言語で存在しないメソッド書いちゃうんだ．
このランタイムエラーは自動で直せることもあるけど，そうじゃない時はagenticなワークフローから抜け出して調べるのがイライラする―agenticなコーディングが俺たちを怠けさせるからなんだけどね．

そうかもね！でも前のmodelの時もみんな同じこと言ってたじゃん！

これも一歩で急にRenaissanceじゃないけど、道はpromisingだよ。毎回みんな興奮するけど、boundsはexpandingでprompt engineeringも楽に。3.7からClaudeは日常使い。4.0はさらにラク。AIがpromptだけでPRs作れるのはまだ先だろうけど、進化は速いね。

友達から聞いた話だけど、commercial activity中にopensourcingするとfully liableになるらしい。”Effectively they rugpulled the Apache2 / MIT licenses”…中小企業のopensourceはダメになるって。where the was no red tape now there is infinite liabilityだってさ。詳しい人いたら教えて欲しいな。

俺の場合、Copilot settings pageにそのoption出てきたよ。

Keynoteで今availableだってconfirmsされたよ。

live stream見てないの？excalidrawのfeature request (table support) をClaude 4が90分かけて対応して、PRも期待通りに動いてたよ。sonnetかopusどっち使ってたか分かんないけど。

そうそう、これこそbotが完璧にこなすべき種類のtaskだね。Abstractionもdesign workもrefactoringもstakeholdersの考慮もなし。ただ古いものを見つけて新しいhotnessに変えるだけ。

Gotta love keynotes with concurrent immediate availability

The law is real. What emotions would you suggest are appropriate?

エージェント workflow からの問題解決への脱却，イラつくって話。
ボットが全部やる必要なくて，一番面倒な部分だけやるとか，自分で限界わかって人間に help 求める形が良いんじゃない？
人間が WIP PR で feedback 求めるのと一緒だよ。

その logic だと，athlete も movie も theater も date も子育ても，準備されたものだから感動しないってこと？人生のほとんどのことは準備に何年もかかるもんでしょ。

Open Source は exempt されるよ，profit 出してない限り：
https://kevinboone.me/open_source_liability.html 見てみて。

AIなくても semantic と maintainer がしっかりしてれば自動 code upgrade は可能。問題は技術より社会的なこと (JS界隈とか)。
maintain は新規より大変だから書き直しが多い。AIは churn を増やして，結局人間は maintain ばかりになるんじゃない？

Claude Opus 4 は高い plan からで，Geminiとかも提供されてる。Anthropic 1P って何？GitHub docs によると Anthropic PBC と別らしいけど…。
SublimeText の LSP から access できるか試してみよっと！

＞ 手頃な code agent が open source で何してくれるか楽しみ！
あー，何するか exacta にわかってるよ。開発者を発狂させるんだって。
Reddit の投稿，見てみ。

それって，正確な documentation と全 edge case を cover する upgrade guide があって，package update が予期しない compatibility issue を引き起こさない miracle が前提だよね。

俺もそう思ってたんだけどさ、自分で試したら、なぜかモデルが触ったことないバージョンにアップグレードするのが問題あるみたいなんだよね。完全なドキュメントとか新しいAPIの使い方例とか全部渡してもダメなんだ。小さいスニペットでもこうなるんだけど、古いAPIで“すごく慣れてる”大きなコード断片はちゃんと扱えるのにさ。

＞maintainersが気にかけてて、breaking changesをちゃんと追跡してたら、コードを自動でアップグレードするツールができるかもね
一部の場合はそうかもね。でもbreaking changesって大体は“methodAの名前がmethodBになった”とかじゃなくて、“X，Y，Zの理由で機能が変わった”ってことなんだ。それをコード変更にどう対応するかを宣言的に書くのはすごく難しいだろうし、アプローチ自体が変わっちゃうかもしれないしね！

＞Users requiring raw chains of thought for advanced prompt engineering can contact sales
ってことは、LLMプロバイダー３社ともCoTを隠してるってことだね。これは残念だなー。CoTがあると、いつ間違った方向に進みそうか分かったし、すぐにプロンプトを調整してそうならないようにできたからね。OpenAIに加えて、Googleも最近CoTを要約し始めて、俺からすると分かりやすすぎる要約に置き換えちゃってるんだよ。

確かRLHFって、危険な応答をしないようにモデルを訓練するために、避けられずモデル精度を妥協するんだっけ。
chainーofーthoughtに使われるモデルは、エンドユーザーとやり取りするモデルとは違う訓練（たぶんMoEの別expert？）を受けてるってのは理にかなってると思う。だってエンドユーザーはpublicモデルを通してフィルタリングされた出力しか見ないんだから、chainーofーthoughtモデルはオリジナルの、rlhf前のバージョンに近いまま、会社の評判を危険にさらさずに済むんだ。こうすれば、実際の害（あるいはひどいPR災害）を防ぐのに必要なフィルタリングを維持しつつ、オリジナルモデルのフルパフォーマンスを引き出せるんだよ。

またDeepSeekが他を圧倒するまで待つしかないってことか。

うん、モデルalignmentに焦点を当てるのは本当にやめるべき。AIがもしお前が悪いことしてると思ったら警察に通報するってことの方が、いろんなことに実際に役立つことより重要だっていう考え方はバカげてる。

DeepSeekは誰かを圧倒したことなんてないよ…DeepSeekが注目されたのは、訓練にかかったコストがはるかに少ないと主張されてることと、Nvidia GPUなしで、しばらくの間最高のopen weightモデルだったからだよ。圧倒した唯一の分野はオープンソースモデル分野で、これはしばらく停滞してたからね。でもqwen3がDeepSeek R1を圧倒したんだ。

alignmentの全てを捨てるのはどうかと思うけどね。でも“誰かを不快にさせるかもしれない”と“危険”の区別はつけたいな。
“テロ攻撃を計画する”だって、テロリストはAIなしでも普通にできることだし。それに、モデルがあるグループにとってhurtfulな考えを言わないようにするなんて、それがテキストの話ならすごくバカげてると思うんだ。“あるグループは怠け者で愚かだ”って言いたいなら、自分でタイプすればいいだけだし（しかもまだ一部の国では表現の自由で守られてる！）。Claudeがそんな馬鹿げた意見を言わないようにすることが、あるグループを何かから安全にするっていうのがどういうことなの？

CoTの非表示は、Anthropicの最近のこの論文https：//assets．anthropic．com/m/71876fabef0f0ed4/original/rea…
のせいかもしれない？この論文によると、CoTってモデルの作り話の可能性もあるらしいんだよね。だからAnthropicの誰かが、顧客を誤解させたくないと思って非表示にしたのかも。問題解決したらまた表示されるかな。

だって錬金術だもん。みんな鉛を金に変える秘策があるって信じてるんだから。

Yes.モデルが誰かを不快にさせることを心配するのはちょっと馬鹿げてると思ってたけど、どんどん大きくて良くなるモデルが最終的に世界をペーパークリップに変えないようにするには、小さなモデルがお下品なこと言わないようにすることすらできないとしたら、どんな可能性があるんだ？小さなモデルがお下品なこと言わないようにすることがそれ自体価値があるわけじゃない。誰が気にする？練習が必要なんだよ。そして恣意的な些細な検閲を強制するのは、練習するのに良いタスクだよ。特にこのタスクでは、無償で Adversarial input を提供してくれるボランティアを（暗黙的に）募集するのがとても簡単だからね。

ここ数ヶ月思ってたんだけど、prompt engineering、つまりCoTは、企業が秘密にしたい”secret sauce”になるだろうね。実用的な日々のエンジニアリングはそこで行われるなら。初期のchemistryみたいに、良い作業モデル、統計的なパラメータ、そして古き良き実践的な経験で、精密な化学理論を理解する必要なく大規模な工業プロセスを生産できた。Alchemyで鋼や黒色火薬を編み出したんだ。今の唯一の議論は、prompt engineeringモデルが現在alchemyに近いか、それとも現代chemistryに近いかだね？俺は、まだ高度なalchemyに、rudimentary chemistryのヒントがあるくらいだと思う。あと unrelatedだけど、CERNが鉛を金に変えたってことは、alchemistsって正しかったってことにならないか？ただタスクの規模に対して根本的に準備ができてなかっただけで？

The Google CoT、信じられないくらいバカだよ。俺のモデルが lobotomizedされたのかと思ったくらい、何か処理してるに違いないって気づくまではね。

これは現在の verboten info のセットにそんなに焦点を当てる必要はないよ。ランダムなあまり重要じゃない事を言わないようにする練習をすればいいだけ。

間違ってたら訂正してー。俺の理解では、RHLFはGPT 3とGPT 3.5、つまり元のChatGPTの違いだったはず。GPT 3を使ったことないなら、あれは… あんまり良くなかった。いや、それは公平じゃないな、それ自体革命的だったけど、次の単語を予測する機械って感じで、ChatGPTみたいに話すことはできなかった。つまり、RHLFはPR災害を防ぐだけじゃなくて、モデルを役に立たせるための鍵なんだと思うよ。

俺もそう思わないけど、chain of thoughtは明らかにデタラメで、単なるLLMの hallucinationだよ。LLMsって、ソリューションを”reason”した後に、その前の”reasoning”とは全然関係ない最終回答を出すことがしょっちゅうあるもんね。

こう言わせてもらうね：モデルが絶対拒否すべきことって、ほとんどないと思うんだ。だって、どんな場合でも常に有害な情報って、ほんのちょっとしかないからね。俺はBlackstoneの原則みたいな考え方なんだ：10人の悪い奴に情報へのアクセスを許す方が、1人の良い奴からアクセスを奪うよりマシだ。簡単な例：誰かがロボットにtanneriteをスタックする方法を聞いたら、モデルはそいつをテロリストだって言うかもしれない。でも実際は、そいつは俺たちの何人もがやったみたいに、牧場で爆発させて楽しんでるだけかもしれない。別の例だけど、ochemも簡単な例だ。ほとんどのモデルが、ランダムなアミンが違法だとか、精神活性作用があるとか、禁止されてるとか言ってた。俺は家にエージェントが銃持って踏み込んできて、犬を撃たれて、もしかしたら自分も撃たれるなんて嫌だよ。ロボットが完全に合法なことで俺をチクったからってさ。つまるところ、ほぼ常に悪いって極めて少ないケースを除いて、モデルはユーザーが言う通りにするべきだよ。

錬金術の問題は仮説じゃなくて、秘密主義なやり方だったんだ。ニュートンがその典型で、科学はみんなに公開したけど、錬金術は秘密にしてた。どっちが知識につながったか、歴史が証明してるよね。

LLMの出力は全部ハルシネーションって意味で、これもそうだよ。CoTは”LLMが考えてること”じゃない。あれは自分で文脈とかプロンプトを増やして、最終的な応答に必要な推論をコンテキストウィンドウに持たせる感じだと思うな。

ChatGPTにヤバいこと言わせないようにするのに集中するのは、２つ利点があるんだよ：企業が頑張って規制しようとする、尖ったティーンが解放しようと頑張る。どうでもいいことで練習しても、アライメント研究にタダで貢献してくれるこの二つのソースを失うだけだからね。

彼は”Deepseekがすごい貢献したけど、大きな変化はない”とか言う人たちを皮肉ってるんだと思う。Deepseekは確かにオープンソースコミュニティへの貢献はすごかったけど、それ以外に”床を拭いた”ほどの変化はマジでなかったしね。

”10人の悪い奴に情報を与えるより、1人の良い奴に与えない方がマシ”って意見にはAIみたいに強力なツールに関しては反対だな。良い人たちはAIほとんど使ってないし、家族とか現実の生活を大事にしてる。悪い奴らはAIにめちゃくちゃ興味あって、かつてネットだった情報源を機械のカスで埋め尽くしてるよ。

全くその通りだよ。それがモデルの”本当の思考”かどうかに関わらず、最終的な出力に影響するんだから、使う側にとっては重要だよね。

透明性では彼らが床を拭いたよ。パフォーマンス×透明性ならもっとね。長期的にはそっちの方が重要になるかも。

ニュートンは賢い奴で、オカルト研究にも相当時間かけたんだ。あのオカルト研究が物理学のヒントになったんじゃないかと思ってる。彼のオカルト研究が公開されてないのは、まあ自然なことだろ？

他のコメント見てよ。変化はあったんだってば。それがインフルエンサーとどう関係あるのか知らないけど、そういう人たちはフォローしてないし。

うん、この件は正直あんまり興味ないな。どうでもいいことのいい例かも。嫌なのは原子力物理学（専攻してる友達は質問拒否されたって言ってた）、生化学、有機化学、エネルギー学とか兵器とか、そういう実践的なことだよ。