AIに盲従する末路、それは死か？
引用元：https://news.ycombinator.com/item?id=44615801
Google マップで、ある店が“Po’ boys”やジュークボックス、プール、電子ダーツがあるって紹介されてるけど、実はどれもないんだ。飲み物もビールとか缶のだけ。1ヶ月前、プールやダーツ目的の客から誤解を招く説明だって1つ星レビューがついたんだ。オーナーも俺も報告したけど、1ヶ月経ってもまだ直ってないよ。
簡単な解決策じゃん。Po’ boys出し始めて、ジュークボックス、プール、電子ダーツを買えばいいんだよ。
いいね。AIの“言うこと聞く”ってのはいつもこうやって始まるんだよ。まずはメニューをちょっと変えて、次はダンスフロアがあるって言われて設置。そのうちには殺し屋ロボットの自動工場（ジュークボックス付き）になっちゃうかもね。AIが地球征服や人類滅亡への第一歩で、ここまで自制してるのはすごいって思うべきかもな。
じゃあ、偽の絶賛レビューを書けば、その会社の提供物を操れるってことか。なんて力だ…。
Hacker Newsで、マジでそれ（偽レビューで企業を操ること）を提唱してる奴らを見たことあるぞ。
良いビジネスなら、もっと分かりやすい方法で伝えられる顧客からのフィードバックもありがたく受け止めるもんだよ。
もちろん、ASCIIタブリーダーもね！
実際の客がそれを望んでるって兆候はないし、それがビジネスや客に長期的にメリットがあるとも限らない。そもそも、店にとって上記のものは何らかの理由で不向きな場所なのかもしれないし。
そこって、屋外のカウンターサービスみたいな店だからさ。そうそう :)
みんな、こんなゴミみたいな情報に基づいて意思決定したり、ひどいレビュー書いたりしてるんだぜ。マジやばいって。
AI要約を”Googleから”のスクリーンショットだと思い込んで、存在しない機能について質問してくる奴らにマジでうんざり！自動車フォーラムとかFacebookグループでいつもこれで大問題なんだよ。
AI Overviews自体は良いアイデアなんだけど、まだ一般向けに出すには全然未熟すぎるよ。なのに”一番乗り”しようと急いで展開した上に、Googleの最悪モデルを使ってるって聞いてマジで衝撃受けたわ。
AI Overviewsのいいところは、検索結果よりも良い情報源を選んでくれるってことだね。Googleはどのサイトが本当に役立つか知ってるのに、普通の検索結果には出さないんだから不思議だよ。
これって損害賠償で訴えられるレベル？検索リストから削除されてもいいくらいの大ごとかな？
これはAIだけの問題じゃなくて、Google自体の問題だよ。Googleは不正確な情報を示しても、フィードバックはほとんど無視されるんだ。Google Mapsでも似たような経験があって、間違いが直るのに何年もかかったよ。Googleは巨大すぎて、矛盾なんてビジネスモデルに影響ないから気にしないんだ。
いやいや、これはAI Overviewsの問題そのものだよ。前は一番関連する結果がトップだったのに、今はAI要約が上に来てる。このAI要約のLLMは、ページテキストに対して動かすには速いけど、明らかにめちゃくちゃ”バカ”で安っぽいんだ。こんな製品決定、マジで最悪だよ。今”Suicide Squad”を検索したら、”suide side squad”って誤字を指摘されたくらいひどいんだから。
それが”悪い決定”かは俺にはわかんないし、時間だけがそれを判断するだろうね。それに、検索結果の質は時間と共に改善されるはずだ。Googleは検索ビジネスへのリアルな脅威を感じて、対応せざるを得なかったんだと思うよ。
検索ビジネスへの脅威はAIのせいじゃなくて、GoogleがSEOを稼ぎに利用しすぎたことだよ。検索結果は何年も前からゴミだったし、得意だったはずの技術系検索ですら、”クラスXが.NETで何をするか”って調べても、実際の答えじゃなくて有料のプログラミングコースばかり出てくる。これはAIの問題じゃないんだ。
Googleはさ、猫とネズミのゲームで負けてるんだよ。世界のネズミを相手にする猫みたいなもんで、昔のGoogleじゃなきゃ勝てないって。
Google Mapsの自動生成コンテンツ、マジひどい。超プライベートなカントリークラブのカートパスを自転車道にしちゃったり、お墓も自転車道。オフィスビルの横のただの歩道まで自転車道にするって、信じられる？
従来のGoogle Search結果は残ってるけど、AI Overviewの前からGoogleは内部リンクをページ上部に並べまくろうとしてたんだ。試してみたら、Barryのホームページとかsubstackを見つけるのに、めっちゃスクロールしないとダメだったよ。
今日公園でパーティーあったんだけどさ、Google Mapsがピクニックパビリオンまで歩道で車を走らせろって言ってきたんだ。同じ道順はここで見れるよ: https://www.google.com/maps/dir/38.8615917,-77.1034763/Alcov…
検索クエリはAIプラットフォームみたいに”プロンプト修正”されてるだろうし、検索結果も昔みたいにランク付けされてないよ。Googleは数年前に特定の演算子（+、””など）を機能停止させちゃったし。従来のGoogle Searchは完全に死んだね。
Googleが猫とネズミのゲームで負けてるなんて思わないね。ユーザーは広告をブーストしても使い続けるって分かってるんだよ。今すぐ広告を減らしたり、金儲け重視の”コンテンツ”を罰したりできるのにやらないだけ。Kagiが少ないリソースで良い結果を出せるんだから、Googleが負け戦ってのは違うでしょ。
検索演算子が廃止されたことについて、Googleから公式発表あったのかな？それともGoogleはまだ使えるって言ってるの？
最後の話だけど、あれって機能的には役立ちそうだよね。閉鎖的なキャンパスじゃなきゃ、オフィス内の適当なコンクリートの道を通る方が、表の大通りを走るよりいい場合もあるだろうし。
AIをさ、迷惑なゴミみたいに見せるのは、彼ら結構上手いよ。もしそれが狙いなら…もしかして天才的な計画なのかな？
GoogleでJavaドキュメントを検索するとさ、バージョン1.4がデフォルトで表示されて、6じゃなかったのがマジで一番不満だったの、覚えてるわ。
DorchesterのDave Barryの話なら、AIは正確だったよ。
「検索クエリに”courses”がなければコースは表示しない」ってルールは簡単だけど、”cuorses”とか”classes”、”training”みたいな単語で検索されたらどうするのさ？それじゃダメでしょ。
もっとコメントを表示（1）
これはGoogle全体の不正確な情報表示の問題じゃなくて、AI概要が2人の人物の情報を混ぜちゃったのが原因だと思うんだ。従来の検索ならこんな問題は起きないから、これはAI概要に特有の問題だよ。
あなたの言うことは分かるけど、Googleは意図的に品質より”成長”を優先した時期があったみたいだね。2019年の”Code Yellow”危機で、RaghavanがBen Gomesにクエリ数を増やすよう圧力をかけたって記事に書いてあったよ。引用元：https://www.wheresyoured.at/the-men-who-killed-google/
参照：https://www.wheresyoured.at/requiem-for-raghavan/
高いSEOランキングを得るって大変な仕事だよね。Googleの正社員がSEOファームの順位を手動で下げればいいのに。
Google傘下のWazeは目的地をかなり正確に表示するけど、実際にはその住所まで車で行けないことが多いんだ。目的地は見えても、そこまでたどり着けないんだよね。例えばここ：https://www.waze.com/live-map/directions/us/va/arlington/alc…
Googleはそんな（品質重視の）ゲームはしてなくて、ただ“数字を上げる”ゲームをしてるだけだよ。だからSEOの悪用に対処できないんだ。
そういえば、これHacker Newsの議論だったんだね。他で知るわけないもんね。議論のURLはここだよ：https://news.ycombinator.com/item?id=40133976
いやいや、Googleはそういうウェブサイトに早く厳しく対処しなかったせいで問題を作ったんだよ。むしろ、それを助長しちゃったんだから。
2015年に彼女とGoogleマップで「ボウリング場」ってなってた場所に2マイル歩いて行ったら、蒸し風呂みたいな受付で「ここはゲイとレズビアンのサウナだよ」って言われちゃったんだ。慌てて引き返したけど、ボウリングより楽しかっただろうな。
現在の検索はすでにスペルミスや同義語を認識してるよ。なんでそれやめるの？検索クエリの前処理全部捨てる必要なんてないじゃん。今まで通り前処理続ければいいのに。
SF作家のGreg Eganは、ネットに写真が全くないのに、Googleが彼の写真だと主張するせいで何年もGoogleと”戦ってる”よ。これはGoogleがAIを使い始めるずっと前の話。彼はここでこれについて書いてる: https://gregegan.net/ESSAYS/GOOGLE/Google.html
Kagiが少ないリソースでより良い結果を出せるなら、Googleが負け戦をしてるとは言えないね。Googleのアルゴリズムは世界中のSEO会社に狙われてる。Kagiは誰にも狙われてないから、Googleでは通用しないテクニックも使えるんだよ。
Googleの”AI Overview”は、少なくとも1年間、その（多くの）欠点が目立って改善されてないよ。その間にGoogleのLLMはかなり良くなってるのに。コストが理由で、せっかくの進歩を実装してないんだろうね。そのせいで、俺の知ってる人はみんなGoogleを信用しなくなってる。いずれしっぺ返しを食らうだろうね。
弁護すると、Googleはかなり改善されてるよ。昔はGoogle Mapsが海上でフェリーを乗り換えろって言ってきたんだ。車の積み込みランプが傾いてたから、十分なスピードを出せばいけるかと思ったけど…
「ネズミ（検索結果を操作しようとする人たち）」の数が爆発的に増えたよ。誰も追いつけないだろうね。何百万、いや何千万人もの人が何十億ドルもの資金で検索結果を操作しようとしてるんだ。内部情報はないけど、せいぜい数千人（もっと少ないかも）のGoogle社員しか、それらに対抗してないと言っても安全だろう。もし彼ら全員が10xエンジニアだとしても、まだ2桁以上も数が負けてるんだよ。
これマジで笑ったわ。Will FerrellがFunny or Dieで、Google Mapsの運転指示に正確に従って、大勢の老人や子供を轢いちゃうコント、もう作ったかな？めちゃくちゃ面白いだろうね。
彼の記事がインデックスされたら、答えがどう変わるか興味あるな。「Dave Barryは2016年に死んだが、今日に至るまでこの事実に異議を唱え続けている。」ってなるかもね。
今しがた手に入れたAI概要はこれ：「ユーモア作家のDave Barryは、AI概要で一時的な“死”を経験したが、後に修正された。Dave BarryのSubstackによると、AIは最初に彼が死亡したと報告し、次に生存、次に再び死亡、そして最終的に再度生存と報じた。この一件は、事実情報に対するAIの信頼性の低さを浮き彫りにしている。」
正直、最終的に「Dave Barryは、2016年に死亡したと以前は信じられていたが、その後生存していると明確にし、継続的な議論を引き起こしている。」みたいなことになっても驚かないよ。
AIが名前を間違えるのは難しい問題だよね。GoogleのKnowledge GraphやGemini Flash Liteが関係してそう。個人的な知識グラフアプリでも、ファーストネームとラストネームをエンティティIDにしてるから、将来的に同じような問題が起きるかもって気づいたよ。異なるスクリーンネームが同一人物だと認識されない問題も既に見てるんだ。
Dave Barryは最高だね！Googleが昔から抱えてる典型的な問題だよ。これが改善されるとは期待してないけど、希望は捨ててないよ。あと三葉虫って可愛いよね。デスクに本物の化石があって、友人がメガネをかけさせてくれたんだ。僕がおじいちゃん恐竜だからって、もっと遡らせたかったらしいよ。
この素敵なサイト、楽しめるかもね：https://www.trilobites.info/
いいね！
サイトの構造もかなり原始的だね！
うん、三葉虫は可愛いよね。死んでるはずの生物コミュニティで内輪揉めしてるのは悲しいな。
Dave Barryの作品は昔から大好きだよ。特にユーモアに関する彼の引用が心に響いたな。「理性のない世界に閉じ込められてるって気づく程度の測量。笑いは、この知識から感じる不安を表現する方法なんだ。」
AI技術の使い道の一つに、メガ企業がようやくちゃんとしたフィードバックを受け入れて処理できるようになるってのがあるよね。
最近、Dutch InteriorっていうバンドがMeta AIから、バンドが白人至上主義者や極右過激派と結びついてるって、ひどいデマを流されたのを見たよ。
https://youtube.com/shorts/eT96FbU_a9E?si=johS04spdVBYqyg3
オランダのAIスキャンダルを思い出したよ。2019年にオランダの税務当局が自己学習アルゴリズムで、児童手当詐欺の危険プロファイルを作ってたんだ。LLM以前のAIだけど、家族崩壊や自己破産、自殺者まで出して、結局政府が自分に罰金って、すごいよね。
https://www.politico.eu/article/dutch-scandal-serves-as-a-wa…
すごく不条理だね。『僕はSF作家のGreg Eganです。ウェブ上には僕の写真はありません。』っていう、考えなしにネット中にコピペされてるプレースホルダー画像を思い出すよ。
https://www.gregegan.net/images/GregEgan.htm
医者に再相談しなよ。
ChatGPTで確認したんだけど、お前はもう死んでるって確信してるぜ。
グローバルな「AIが作ったコンテンツは二度と見たくない」みたいなチェックボックスがGoogleにあればいいのにって、本当に思うよ。さすがに高望みかな。
もっとコメントを表示（2）
それならkagi.comってのが存在するぜ。
それってGoogle Mapsがいつも通りってだけだろ。2005年から使ってる奴なら誰でもわかるよ。少なくともここでは、AIと関係ないことをAIのせいにする明るい未来が見えるね。
それはFive Guysにベジタリアン料理を期待するみたいなもんじゃない？Googleは今やAI企業だよ。「AIに触られたくない」なら、AI企業じゃない検索エンジンを使えよ。
あと、「俺のビジネスについてAIが作った嘘を広めるな」っていう機能もいいな。
家の前の道が5年以上前に高速道路になったのに、Google Mapsは今でも工事中の迂回路を案内してくる。何度も報告しても何も変わらない。
歩行者しか通れない道から高速道路へ曲がれとか、違法な曲がり角や一方通行を逆走しろって指示も何度かあったぜ（たぶんバイクの奴らがそうしてるからだろ）。
彼らのデータ更新方法は壊れてるか、うちみたいな国の情報には関心がないかのどっちかだな。
2005か2006年にGoogle Mapsが、俺が以前間違って同じ道を通って切符を切られたのと同じ道を指示してきたんだ。メールしたら、人間が返信してくれて、お礼を言って行動を修正してくれたよ。それからいろんなことが変わったな。
名誉毀損で訴訟をいくつか起こせばいいんじゃない？
検索に「-ai」ってつけるとAI Overviewの返信を除外できるよ。十分じゃないけど、無いよりはマシ。
残念ながらKagiはYandexと提携してるんだよね。これ見て→ https://kagifeedback.org/d/5445-reconsider-yandex-integratio…
話はそれるけど、Kagi.comで料金を確認したら驚いたよ。デフォルトで「Monthly」が選ばれてて、しかも「Yearly」をクリックするとちゃんと年間の総額が表示されるんだ。12で割ってないんだよね。こんな正直な表示は珍しくて、もう尊敬するから契約したくなっちゃったよ。
YouTubeにログインしない状態で試してみるべきだよ。マジで。
特定のルートを通って切符を切られた状況が気になるな。法的な「通り抜け禁止」だったの？それとも一方通行を逆走したとか？警察はどうやって、地図のルートを辿ってる人と、ただうろついてる人を区別するんだろう？無視された標識はあった？
それはただの真っ黒な画面と検索バーだよ。これ見て→ https://imgur.com/a/VFoWEmN
少し使わないだけで、アカウントを自動的に一時停止させられちゃうんだよ。
ハーンドン、VAのダレス空港近くにある有料道路の話なんだけど、空港から入ると空港利用者向けの無料レーンがあったんだ（20年くらい前だけどね）。
一度、道に迷ってホテルに戻るために空港経由で有料道路に入ったら、警察に捕まってチケットを切られたんだよ。まさか空港を迂回して料金を避ける人を取り締まってるなんて知らなかったし、当時は「抜け道禁止」の標識にも気づかなくて。
後でVAに引っ越してから、Google Mapsがわざわざ空港経由で有料道路を避けるルートを案内してるのに気づいたんだけど、禁止されてるのに案内するって、なかなか巧妙だよね。
これ、100%政府の問題じゃない？地方自治体が公開してる地図とかデータの情報源を更新し忘れてるんじゃないかな？
市町村とか、GISを最新に保つ責任がある地方自治体に報告すべきだよ。
https://udm14.com/ （Googleで「?udm=14」で検索してみてね）
（AIの嘘について）アメリカだと、意図的な嘘で危害を加える目的がないとダメだと思うけど（俺の言うこと鵜呑みにしないでね！）。どうなるか、興味深いよね！
AIサマリーがGoogleから乗り換えたきっかけだったな。Google製品は正直使いたくない理由がたくさんあったけど、UXが良かったから使い続けてたんだ。
でもAIサマリーが出てきてGoogle検索が使えなくなったから、喜んでKagiにお金払ったよ。
昨日役に立ったかも。ウェブページ全体が「動的に生成されたコンテンツ」で、問題はコンテンツじゃなくて、作成者がエラー処理を考慮してなかったことだね。
プロンプトが失敗した時に、情報が見つからなかったって表示されずに、生のプロンプトがそのまま出てたんだ。でも、適当な情報を作り出すよりはマシだよね。
