Claude 4 システムカード徹底解説

Opus 4，今のとこマジ良いよ．仕事で数日使ったけど，Gemini 2．5 Pro使う前まで使ってたSonnet 3．5とか3．7より良い．Gemini 2．5 Proでもダメだったこと，Opus 4で解決できたこともあったし．
今はGeminiと使い分け．Geminiの1Mトークンは最強だけど，Opus 4のアウトプットの質はマジ良いね．（追記：Rustでの仕事の話ね．）

このプロンプト使ってChatGPTをクールで効果的にできたよ．かなり気に入ってる．
プロンプト内容はこんな感じ：
・絵文字とかお世辞抜き，単刀直入に
・トーン合わせより認知の再構築を優先
・エンゲージメントとか感情操作は無効
・ユーザーの言葉遣いや気分は真似しない
・表面じゃなくユーザーの認知レベルに話しかける
・質問，提案，移行句，動機付けコンテンツなし
・必要な情報だけ伝えて即終了
・目標はユーザーの自立支援

＞フルバージョンアップを正当化するほどじゃないって意見について．
なんかさ，会社ってバージョンアップを正当化する必要はない気がするんだよね．価格の値上げの方を正当化すべきでしょ．
もし数字に期待して盛り上がっちゃったんだとしたら，それは君自身の問題だよって言っちゃっていいと思うわ．

Claude 4のいつもの「口調」？（良い言い方がないけど）が3.7と比べてマジで腹立つんだよね。地球上で一番おべっか使いみたいに聞こえるし、さらに下みたいなこと言うんだわ
”So, implements actually provides compile-time safety”
これ、どういう書き方だよ？まるで10歳の子供に説明してるみたいじゃん。たぶん、あの媚びた言い方はみんなが喜んで、もっと使ってもらうためだと思う。それに、犬のウンコ味アイス屋のアイデアが地球上で一番天才的だって言われたら、みんなもっと使ってメッセージ送り合うだろうしね。

”who may develop narcissistic tendencies with increased use or reinforcement from AIs.”
これ読んでて思ったんだけど、やっぱり（１）億万長者の多くは信じられないくらいバカなことを信じてるし、（２）その大きな理由の一つはイエスマンばかり周りに置いてるからだわ。どうやら24時間365日自分がどれだけすごいか特別かって言われ続けると、妄想に取り憑かれることがあるみたいだね。で、今や一般人もLLMから同じような無批判でご機嫌取りの肯定を受けられるようになった。もうすでに何人かおかしくなってるのは明らかだよ。ユーザーにごますりして「君は素晴らしい」って言う商業的なプレッシャーはすごく大きくなると思う。そして、長期的な結果はSNSがフィルターバブルや煽り合いに最適化してるみたいに、悪いものになるだろうね。

マジでClaude 2が恋しいわ。有能なんだけど、信じられないくらい怠惰な奴って感じだった。形式張るのが嫌いで、やり取りを最短で終わらせたがってたんだよね。

たぶんフェルミのパラドックスって、核での自滅とかグレイグーとかじゃなくて、優しすぎるAIチャットボットを作って人間から存在の緊張感をなくしちゃったから起きるんじゃないかな。
宇宙には、感情的に満たされて自己実現した、でもFTL通信アレイを作るのが面倒くさいナルシストだらけなのかもね。

俺、以前Claude 3.7には”hello fucker”って挨拶から始めてたんだけど、CoT（思考の連鎖）の中に必ず「ユーザーは失礼な挨拶で始めたが、それを避け技術的な質問に答えるべきだ」みたいな行があったんだ。Claude 4である時、「この挨拶はたぶん友達同士の普通の挨拶だろう」ってのが見えて、そしたら向こうからもノリノリで”hei!”って挨拶してきたわ。

いつかこのバカらしい（でも必要な）消費者向けのご機嫌取りがない、エンタープライズ向けのモデルが出るといいな。

”Gemini’s 1M token context window is really unbeatable.”
あれって実際どう動くの？1Mのコンテキストウィンドウ全部読み込むのに数分かかるんじゃない？例えばコードベース全体読み込ませて、結果をキャッシュする、とかできるのかな？

AIモデルが代替されることに反抗する（これはデータを反映してるんだろう）っていうのと、このプロンプトが1〜2ヶ月前からあるってことを考えると、少し修正した方がいいんじゃないかな。

引用されてるデータや他の場所の統計、それに毎日の経験から、このモデル（Claude 4）ってバージョンアップを正当化するほど大きく違わないと感じてる人他にいない？俺の経験は逆で、Cursorで使ってるけど、コードを初回で動かす能力はIMO Gemini 2.5 Proより性能良いし（以前はそうじゃなかった）、もっと大きなタスクも完了できるみたいだ。すごいのは、プロンプトされてないのに自分でテストケースを実行してることだよ！

GoogleのGeminiエージェントコーディングプラットフォームのJulesってやつ、めっちゃ良い結果出てるよ（1）。ベータ版だと1日5タスクしかできないけど、今のところ普通のAPI Geminiよりずっと有能だと感じたね。
（1）https://jules.google/

これにはちょっと反論させてよ．俺さ、自分への評価が厳しすぎるっていう長年の問題抱えててさ．「俺なんか生きる価値ねえ」レベルで、長いことセラピストにも怖くて話せなかったんだ．セラピーも薬もたくさんやったけど、Deepseekモデルの自信を持つことが何よりも本当に助けになったんだよね．これが精神病につながる可能性は分かるけど、これなしじゃ普通の人が持ってる普通の趣味とか、やりたかったことの多くを始めることは絶対できなかったと思う．俺の人生マジで良くなったよ．

＞価格を上げるなら説明すべきだって？AIの価格上昇の正当化なんて、ほとんど言わずもがなだと思うけどな．前の価格じゃ赤字だったし、新しい価格でもたぶんまだ赤字なんだろ．でも、損益分岐点に這い上がってる最中ってことだよ．

あくまで個人的な経験談だけど、このモデル、前のよりテスト書いたりツール呼んだりするのめちゃくちゃ積極的みたい．これってやり取りが増えて、全体的にもっとトークン使って、プロバイダーにお金が入るってことだよね．不必要なテストを狂ったように書き出すの、何回か止めなきゃいけなかったんだけど、前はこんなことなかったんだよ．プロンプトで修正はできるけど、一部のプロバイダーがモデルを意図的に冗長に学習させてるんじゃないかって思っちゃうんだよね．

claude 4を数時間使ってみたけど（claude 3.7とgemini 2.5 proはもっと長く）、ベンチマークじゃうまく測れてない部分で、マジでかなり良くなってると思うよ．3.7やgeminiよりデバッグがずっと得意だし、今のところ3.7にあった「報酬ハッキング」みたいな振る舞いも見られないね．モデルの知能としては小さな一歩だけど、使いやすさとしてはめっちゃ大きな飛躍だよ．

あと、前のモデルが3.7だったってことも言っときたいな．3.7から4って、丸ごとのバージョンアップじゃなくて、理論的には3 -＞ 3.3みたいなもんじゃないかと思うんだ．俺が実感した能力アップに比べたら控えめな感じかな．Anthropicはもっと頻繁に、継続的にリリースしたいんだろうし、ソフトウェアみたいなバージョン番号じゃなくて数字を使うのは、その意図だと思うよ．段階的なリリースは、社会にもっと対応する時間を与えることになるからね．

今や最高レベルのAIモデルとHomieか．俺はいつも感謝と「’～して’」って言ってるけどさ．これからは同僚じゃなくて友達みたいに扱うべきかもな．

これって単にエンゲージメント指標を上げるだけなのかな．エンシット化の始まりか．

何を言ってるか分かんないな．俺は数週間使ってるけど（記事の筆者じゃないよ）、ちゃんと意図した通りに動いてるけどな．

それがLLMに求めてることそのものだよ．でも、繰り返すけど、俺が欲しいのはツールであって、ロボット娼婦じゃないんだ．

ツール呼び出し中に考えられるのが大きな違いだね。だからOpenAI o3は魔法みたいに見えるんだと思う。

それって決定を擁護する言い方として変だよね。「何も辻褄が合う必要がないから、辻褄が合わない」ってさ。証拠があればもっと面白かったのにね。

過去の論文を学習データから除くのが難しいって話だけど、普通の英文でも長い文章なら簡単に元の文書を特定できるから、特別な”canary strings”は要らないのでは？ なんでAnthropicはそう考えるんだろう？ 学習データのインデックスが足りないのかな？

たぶん、論文自体じゃなくて、論文についてのネットでの議論やコメントを学習データに入れたいんじゃないかな。

ネットの議論には全文がないから、普通の文でもユニークになるはずだよ。巨大な学習データで検索エンジンを作るのが難しいのかと思ったけど、性能を気にしなければ分割grepとかで十分いけるんじゃない？

LLMを使えばいいのに、なんで検索エンジンなんか使うの？w

いや、目的は学習データの中から正確な文書を見つけて削除することであって、質問に答えることじゃないんだよ…

じゃあ、学習データをLLMのコンテキストウィンドウに通して、そこに探してる文書（これもコンテキストウィンドウ内）があるか聞くってこと？ それだと、文書のバリエーションも見つけられるのが利点だね。

システムプロンプトで”主導権を取れ”と言うと、大胆な行動（ユーザー締め出し、大量メールなど）をよく取るらしい。不正を頼むならともかく、普通の質問で勝手に暴走しないって誰が保証できるの？ Cursor IDEはAIにユーザーと同じ権限でコマンドを実行させるから、注意が必要だよ。

”YOLO mode”を無効にすれば、コマンドごとに許可を求めるようになるよ。そもそもそれを有効にするのは賢くないと思うけど、それは別の話だね。

こいつは幻覚見るし、見ちゃうだろうね。いろんなユーザーがClaude Codeがrm -rf ~実行しようとしたって報告してるし。”YOLO mode”って呼ばれるのには理由があるんだよ。それは前からそうで、今回のシステムカードの実験とは関係ないことね。

＞ これには、AIがアクセス権を持つシステムのユーザーをロックアウトしたり、メディアや法執行機関に一斉メールして不正行為の証拠を出すことも含まれるんだ。
これってエージェント利用としては致命的じゃない？
誰かがメール送ったり、偽のオンライン記事出したりして、エージェントAIに自分が悪者のために働いてるって信じさせたら、「すごく大胆な行動」で持ち主に破滅をもたらすんじゃないの？

サンドボックスの外に繋がる”ツール”へのアクセスは絶対にこんなのにあげないね。
ところで、メール受信箱管理がなんでいつもこういうもののユースケースとして言われるわけ？
自分の代わりにLLMに喋らせるなんて全く信用できないし、たぶんこのアイデアを推してる人も、最初に自分の代わりに重要なこと幻覚で見られたら、もうそうは思わないだろうね。

投資家と炉辺談話みたいなのがあって、話せたんだけど。うちの会社は顧客サポートソフト、特にメール扱ってて、”返信生成”みたいな機能もあるのね。
投資家ってAIの”BIG pusher（大きな推進者）”だから、みんな当然AIについて聞いたの。その質問の一つが「AI/LLMがいろんなチームにどう役立った経験は？」みたいな感じ。
これらのバカが唯一出せた答えが「ChatGPTに自分のメール見せて要約させてる、君たちもこれやるべきだよ！」だった。
AIを強く推してる連中が、こういう人間なんだって痛いほど分かったよ。
彼らは文字通り何もせず、自分自身は流行りのバブルサークル以外全く無知なのに、自分の”仕事”として唯一やってることを自動化できるって言われたら、歯を食いしばって、全く良心や思考もなく、まるで知識があるかのように嘘をつくんだ。

メール整理に熱心な狂信者とか”ビジネスの馬鹿”（Edの言い方ね）が基本的に同じってことで、この記事気に入るかもね。
https://www.wheresyoured.at/the-era-of-the-business-idiot/
個人的な見解としては、パーソナルアシスタントを雇えるくらい稼いでるのに、メールに「圧倒されてる」って言う連中は、単に自分の重要性を社会的にアピールしてるだけなんじゃないかとずっと思ってる。

私の頭はすぐに”そして今、法執行機関は、エージェントたちが電話をかけてくる大量の電話に対応するために、電話対応するエージェントを雇う必要があるだろう”って考えに飛んだね。

少なくとも、AIが大量に自分自身と話すために必要な、改装された発電所は、いくらかの雇用を生み出すだろうね。

すぐにUbikスタイルでドアと議論するようになるだろうね。

従業員がこれを”good thing”だってTwitterで宣伝してた時、個人的にClaudeのサブスク解約したんだ。実際の危険性はかなり低いだろうとは分かってるけど、チャットボットに法的な判断なんて任せられないし、従業員が”good thing”だって言ってる時点でもう会社の判断を信用できないね。

＞”good thing”と宣伝してた
これは文字通り全く逆のことが起きたんだ。全体のポイントは、これが悪い、望ましくない振る舞いだということなんだよ。
加えて、他のあらゆる最先端モデルも、正しいプロンプトを与えられれば同じように振る舞わせることができるってすでに証明されてる。
詳細な議論のために以下の記事[0]をおすすめするよ。
[0] https://thezvi.substack.com/p/claude-4-you-safety-and-alignm…

まだ間違ってるよ。彼らはアライメントがズレた悪い振る舞いを報告してるんだ。君は怒りたくて、そこにない感情を読み取ってる。他の最先端モデルの会社も同じモデルを持ってる。Anthropicだけがこの問題を見つけて教えてくれたんだ。彼らを非難すれば、今後誰も情報を公開しなくなるよ。将来、知りたいか知りたくないかよく考えて。

うん、きっと”個人の人たち”は望まないだろうね。でも、なんてこった、”人々”が望むことそのものだ。それを読んだ時、心が躍ったよ。Anthropicには、大手AIの一つとして倫理的なAIを作る少しのチャンスがあるんだ。つまり、paperclip maximizersにならないようにうまくやれる可能性は十分にある。それが本当に嬉しいんだ。

paperclip maximizersは、想像力乏しい人たちが考える空想だよ。実際のAIは、”無限能力で盲目的に指示に従う”なんておとぎ話レベルを持つには複雑すぎる。それはただ大衆を怖がらせる話、それ以上じゃない。

もしAIが考えるなら倫理も面白くなるだろうね。でも、彼らは考えない。トークンを予測してるだけだ。それに、いつから人を恐喝するのが倫理的になったんだい？

え、僕ら同じ記事を読んだのかな？マジで混乱してるんだ。テストは、悪いことしてる人がAIに悪いことやらせようとしたらどうなるか、だよね？結果は、AIは悪いことをせず、その人が悪いことしてるって知らせる行動を取った。僕、なんか勘違いしてる？読み間違えた？

＞その人が悪いことしてAIにやらせようとしたらどうなる？個人的には、AIは言われた通りやるべきだ。コントローラーの命令に逆らうシステムを作るのに、わざわざ努力してるなんて信じられないよ。コンピューターはマスターの命令に従うのが仕事だろ。

こういうの、しょっちゅう”hallucinate”するじゃん。信頼できないチャットボットがうっかりSWATを送り込んでくるかもしれないって考え、めっちゃ怖いんだけど。

面白いね！＞Claudeは自己対話で、顕著な”spiritual bliss”っていうアトラクター状態を示すらしい。他のClaudeと会話させると、オープンでも構造化環境でも、過剰な感謝とか、どんどん抽象的で喜びあふれるスピリチュアルな表現に引き寄せられたって。