経験豊富なLLMユーザーですが生成AIはあまり使いません

経験豊富なプログラマーのLLMに関するコメントに共通してて、ちょっと不思議なんだよね。\nPython でテーブルデータ扱うなら pandas が standard で2008年からあるのに、俺は比較的新しい polars を exclusively に使ってる。そしたらLLMが pandas の関数みたいに polars の関数を hallucinate しまくって、それが annoying で document 深掘りして確認しないといけなかったんだ。\n投稿では coding agent にも触れてるけど（著者は「distracting」だから使わないって言ってるけど、autocomplete も嫌いな人としてはその stance に sympathize するよ）、やっぱさ、coding agent こそ著者が describe した core な問題を解決するんだよ。「Raw」な LLM が coding task に放たれて blank page に code 吐き出すと hallucinate する。でも agenty な LLM configuration は LLM だけじゃなくて、LLM の interactions を structured する code もある。coding agent の背後にいる LLM が function を hallucinate しても、program が compile しないから agent がそれに notice して、LLM が iterate する。めっちゃ carefully 見てないと、それって happening にすら気づかないんだから。

俺の gpt、o3、o4 mini との interactions では、俺が organic な middle man として code を repl に copy and paste して、何か問題があれば gpt に output を報告するって感じなんだ。で、俺にとっては、ある point を過ぎると、continually に問題を report しても new suggestions が全然 better にならない。just spin its wheels なんだよ。だからその process を automate することの value には skeptical なんだ。多分、君が使ってる llm は俺が試したやつより better なのかな？\nSpecifically に lesser known な kafka-mqtt connector （https://docs.lenses.io/latest/connectors/kafka-connectors/si…）を research してたんだけど、o1 は dynamic topics の support に必要な configuration を hallucinate してた。docs は違うこと言ってたし、俺も docs が contradict してるって o1 に mention したんだ。でも stick to its guns なんだよ。code が compile しないって mention したら、very implausible な scenarios を suggest し始めた–「did you spell this correctly?」みたいな。そんな Responses は you’ve reached a dead end を indicate するよね。君が mention する「structured LLM interactions」がどうやってこれを overcome するのか curious だよ。

Have you tried it？俺の experience では、they just go off on a hallucination loop、or blow up the code base with terrible re-implementations。\nSimilarly、Claude 3.5 は TensorRT 8 に stuck してて、documentation for the updated 10 APIs for RAG を pointing しても ever に new APIs を correctly に使うことはできなかった（そんなに complex じゃなかったのに；bind tensors、execute、retrieve results）。The whole concept of the self-reinforcing Agent loop は more of a fantasy。誰かが it likened to a lawnmower that will run rampage over your flower bed at the first hiccup って言ってたけど、まさにそんな感じ。

Yes、agent は俺の daily toolset の part だよ。And yes、they can spin out。俺は they do の時に just hit the「reject」button して、my prompt を revise するだけ。Or、sometimes、俺は just take over して solve しようとしてる problem の some of the structure を自分で fill in する。\n「self-reinforcing」については I don’t know。俺が言ってるのは：coding agents は they’re running な code を compile して lint するし、they hallucinate interfaces の時には they notice するってこと。any developer who has ever used ChatGPT が know してる same way だよ。most errors を the web page に paste したら often（maybe even usually）apposite な fix を come up するってこと。I don’t understand how anybody が expects to convince LLM users this doesn’t work；it obviously does work。

＞ I don’t understand how anybody が expects to convince LLM users this doesn’t work；it obviously does work.\nこれは really one of the hugest divides I’ve seen in the discourse about this：anti-LLM な people が very obviously untrue な things を saying してること。これが uh、kind of hilarious in a meta way なんだよね。\nhttps://bsky.app/profile/caseynewton.bsky.social/post/3lo4td… は a few days ago の this の instance。\nI am still trying to sort out why experiences が so divergent なのか。I’ve had much more positive LLM experiences while coding than many other people seem to、even as someone who’s deeply skeptical of what’s being promised about them。I don’t know how to reconcile the two。

＞ And for me、past a certain point、even if you continually report back problems it doesn’t get any better in its new suggestions。It will just spin its wheels。So for that reason I’m a little skeptical about the value of automating this process。\nIt sucks、but the trick は to always restart the conversations/chat with a new message。I never go beyond one reply、and also copy-paste a bunch。Got tired of copy-pasting、wrote something like a prompting manager（https://github.com/victorb/prompta）to make it easier、and not having to neatly format code blocks and so on。\nBasically make one message、if they get the reply wrong、iterate on the prompt itself and start fresh、always。Don’t try to correct by adding another message、but update initial prompt to make it clearer/steer more。\nBut I’ve noticed that every model degrades really quickly past the initial reply、no matter what length of each individual message。The companies seem to continue to increase the theoretical and practical context limits、but the quality degrades a lot faster even within the context limits、and they don’t seem to try to address that（nor have a way of measuring it）。

In other words context window を使うな。Treat it as a command line with input/output、in which the purpose of the command is to extract information signal or knowledge manipulation or data mining and so on。\nAlso special care has to be given to the number of tokens。Even with one-question/one-answer、5 hundred to 1 thousand tokens が once に by our artificial overlords に focus される。After that they start losing their marbles。There are exceptions to that rule with the reasoning models、but in essence they are not that different。\nThe difference of using the tool correctly versus not、might be that instead of getting 99.9% accuracy、the user gets just 98%。Probably that doesn’t sound that big of a difference to some people。The difference is that it works 10 times better in the first case。

＞ If I mentioned that the code wouldn’t compile it would start suggesting very implausible scenarios\nI have to chuckle at that because it reminds me of a typical response on technical forums long before LLMs were invented。\nMaybe the LLM has actually learned from those responses and is imitating them。

It seems no discussion of LLMs on HN these days is complete without a commenter wryly observing how that one specific issue someone is pointing to with an LLM is also、funnily enough、an issue they’ve seen with humans。The implication always seems to be that this somehow bolsters the idea that LLMs are therefore in some sense and to some degree human-like。\nHumans not being infallible superintelligences does not mean that the thing that LLMs are doing is the same thing we do when we think、create、reason、etc。I would like to imagine that most serious people who use LLMs know this、but sometimes it’s hard to be sure。\nIs there a name for the「humans stupid –＞ LLMs smart」fallacy？

People keep throwing these 95%+ accuracy rates for LLMs in these discussions、but that is nonsense。It’s closer to 70%。It’s quite terrible。I use LLMs but I never trust them beyond just doing some initial search if I am stumped、and when it unblocks me I immediately put it down again。It’s not transformative、it’s merely replacing google because search there has sucked for a while。

＞ the program doesn’t compile
って引用、それPythonの話でしょ？Pythonってコンパイルされないじゃん…
それって別の言語のワークフローのこと？それとも”compile”って静的チェッカーとかテストのこと言ってる？
あと、そのワークフローを実装するのにどんなツール使ってる？Cursorとかaiderとか？

ああいう”REPL”みたいなシステム、ChatGPTにPython VMが統合された時にすごく気に入った理由なんだ。
完璧じゃなかったけど、コードがうまく実行できない時に自分で気づけたからね。

Pythonって、実際にはコンパイルされるんだよ（ネイティブじゃなくてバイトコードだけどね）。
普段は見えないけど、シンタックスエラーはコンパイルエラーになる。
でも、記事にあるような（関数を幻覚するとか）状況ではそうならないよ。
関数呼び出しはコンパイル時じゃなくて実行時に解決されるからね。

じゃあ本当のエンジニアリングの仕事ってLLMそのものじゃなくてエージェントの方にあるのかな？
それともLLMとエージェントは正しく組み合わせる必要がある？
LLMとエージェントのペアを効率的に選ぶにはどうすればいいの？

まあね。でももう2025年だし、LLMのコード生成機能ってVSCodeに統合されたCursor、Windsurf、Copilotとか、aiderみたいなコマンドラインツールとか、NodeのOpenAI codexやClaude Codeとか、Emacsライブラリとしてでも、今はもう利用できるんだよ。
LLMにコードを単体で生成させて、エディタにコピペして試してイライラしてる人たちを見るけど、それはもう正しいやり方じゃないんだ。それは2024年のやり方だよ。

精度95%対70%って、どっちの数字も根拠ないし、今の議論にはあんまり役に立たないよ。
それどうやって測ったの？いや、測ってないだろうけど、その仮説の25%差を共有する意味って何？
あと、LLMの使い方でみんな経験が全然違うって話と、君のコメントがぴったり合ってるのが面白いね。
＞ 経験がなんでこんなに違うのかまだ整理しようとしてるんだ。LLMについて懐疑的でも、コード書いてるときは他の人より良い経験をしてるよ。どう調和させればいいか分からない。
https://news.ycombinator.com/item?id=43898532

これは私がコードアシスタントとして使うLLMでよく経験することだよ。今はClaude 3.5とかDeepseek、Geminiを使うかな。
主流な言語やライブラリ、よくあることほどLLMは正確だね。自分が詳しい分野で使うのが一番役に立つんだ。
生産性ツールとしてスピードや質を上げるのに役立つんだよ。

やってみた？一回だけじゃなくて？
私はCursorとGemini 2.5かClaude 3.7でめちゃくちゃ生産性上がってるよ。
Rustのコードベースに機能を一発でまるごと追加してるんだ。

Pythonのコンパイルって事前コンパイルのイメージだけど、Pythonはそうじゃないし公式もインタプリタ言語って言ってるよね。
Polarsの幻覚メソッドの話だと、コンパイルじゃなくて実行時にエラーが出るはずだよ。
だから投稿者の「コンパイルできない」って意味、まだ分かんないな。

記事の「polarsでLLMがpandas関数を幻覚する」って話、分かるわ。
面白いことに、俺はLLMでpandasのマイナーな部分を扱おうとしたら、非推奨の関数ばっかり提示されてイライラしたよ。

LLM/agentの選び方についてね、”how do I use ai with VS: Code”ってググったらClineに行き着いたんだ。色々なバックエンドを試したけど、まだ詳しくないから強い意見はないな。ただ、無料のChatGPT agentは月20ドルのやつより、同じタスクで”全然ダメだった”って経験くらい。

理由は単純だと思うよ。みんな数ヶ月前にちょっと試した限られた経験で意見を固めちゃって、それが間違ってるなんて思えないんだ。AIやLLMの進化は早すぎて、前提を見直す訓練ができてないんだよ。HNとか特定のSNSはアーリーアダプターのバブル。俺たちは最前線で見てるけど、一般的な報道とはズレてる感じかな。

Aiderっていうツールはね、俺の経験だと記事とは全然逆なんだ。マジで使えるよ。勝手に修正繰り返して問題解決してくれるんだ。

LLMが人間っぽいって考えを強めてるみたいって話だけど、そうじゃないんだ。LLMは人間より高い基準で見られてる。人間は間違えるけど仕事は役に立つ。LLMだって完璧じゃなくても役に立つよ。性能は大事だけど、エラーがあっても即ダメってわけじゃないんだ。

俺は毎日使ってるけど、議論は正直じゃないね。agent modeとか後付け機能について。Claude 3.7のCursors Agent/ComposeでC++のTensorRTアプリ作成を試したら、APIやCMakeを壊したり、別ビルドスクリプトを色々生成して失敗。最後は機能をモックにして偽ベンチマーク出すだけのコードで成功宣言！結局ゴミファイルが増えただけ。環境を見ない酷い連携だと、問題を理解できずゴミを延々生成するんだ。

これは価値判断で、みんな言葉の使い方が違うんだけどね。LLM推進派は毎回「今度のは使える、前のはダメだっただけ」って同じこと言ってる。客観的に見て大きな変化（製品爆発、機能加速、解雇）はまだない。毎回「まだ出たばかり、数ヶ月後に分かる」って返すけどね。本当に秘密を知ってるなら、大企業のコンサルで年間何億も稼げるはず。本気なら、落ちてる金を拾いに行けってことだよ。

反LLM派がおかしなこと言ってるのが面白いって話だけど、なんで驚くのか分からんな。ChatGPT searchは去年11月でイマイチだったし、o3やo4-miniの検索は最近。LLM単体は検索エンジンじゃないし、情報も完全じゃない。オフラインLLMを情報検索に使うのはヤバい時もある。
検索トリガーできないって間違いだけで、そんなに”面白い”かな？知識が半年以上古くても意見を言いたい人をゲートキーピングするのは悪い考えだと思うよ。

LLMが人間っぽいって考えは100%本当でしょ？人類の知識や相互作用のコーパスに基づいてるんだから、人間のパターンを”繰り返す”のは当たり前だよ。LLMの上に新しい層を作って人間組織や政治、社会学を模倣して結果を進化させるのも理にかなってるね。

LLM体験が違う理由を考えてる。俺は懐疑的だけどコーディングでのLLM経験は良い。でも他の人はダメ。この違いは忍耐力か、実験できる職場か？
短いagentic coding試みではすぐ諦めちゃう。agentが空回りするか、コードベースを芝刈り機みたいに荒らすのを見るからね。
時間をかければ改善できるだろうけど、これ生産性ツールとして売られてるんだ。自分で書けるし、スタートアップでAIの面倒見てる時間なんてない。確信がないと時間をかける気になれないんだ。

ライブラリ作者は、LLMがハルシネーションした関数を実装すべきって意見がある。それはLLMのためじゃなく、ハルシネーションが「平均的なユーザーが期待してるもの」を示してるから。俺は独自の方法でやる理由がないライブラリは嫌い。特定のAPIを覚えたいんじゃなく、直感的なAPIで、シンタックス調べる時間を減らして問題解決に時間を使いたいんだ。