AI監視は今すぐ禁止しろ！手遅れになる前に！
引用元：https://news.ycombinator.com/item?id=45149281
Facebookで7歳くらいの女の子が顔よりデカいクモを持ってる動画に、「そのクモ離して、家燃やさないと」ってミームコメントしたら、投稿されずアカウント停止くらったんだよ。当時Facebookアプリの統合担当開発者だったから異議申し立てたけど、AIに即却下されたか、ミーム知らない超速人間だったのか。まじでFacebook使うのやめたわ。AIが俺らを罰するようになったら、もう終わりだね。
Redditで、たぶんDFhackのバグ修正スクリプトを投稿したせいでアカウント停止されたんだ。これ、Dwarf Fortressのモデレートでよく使われるプログラムのバグ修正スクリプトで、違法なものじゃないのにさ。こんな質の低いAIモデレーションが続くなら、主要なプラットフォームなんて使い物にならなくなるんじゃないかな。
根本的な問題はAI監視だけじゃなく、私企業が規制されずに人々の日常生活に過度な影響を与えてるってことだよ。Facebookの例はともかく、大家さんがAIで決定したり、健康保険会社がAIで保障を決めたりしたらどうなる？
もちろん、これは私企業に留まらず、政府や法執行機関もこういうシステムをどんどん導入したがってる。特に今のUSは権威主義的な政策を推進してるから、さらに事態は悪くなる一方だね。
Redditのいくつかのサブレディットで「ricing」は差別用語じゃないって正しく指摘しただけでBANされたよ。悪意のあるサードパーティボットが、質の悪いモデレーションを利用して似た言葉を誤って解釈し、コミュニケーションを妨害してるんだ。
例えば、RedditのAIボットは「ricing」を差別用語の「rice boy」と同じだと見なす。こんなこと許されるなんて信じられない。デュープロセスなしの行為は、結局は知的な貢献者を追い出すか、ソーシャルネットワークを破綻させるだけだね。
modが大量に辞めたlinuxquestions subredditを見ればわかるけど、同じ質問が自動的に流れ続けるだけで、まともに答えられない。経験者はみんな去って、質の高い情報共有はもうないよ。モデレーターリストすら隠されてるし、AIみたいに基本的な読解力すらない「独裁者」に異議申し立てすらできない状況さ。
健康保険の世界ではもうこの状況だよ。AIがもっともらしい理由で医療費の支払いを拒否して、医者はそれにただ判を押すだけ。医者を医療過誤で訴えることも、その決定に異議申し立てすることもできないんだ。
医療保険って、その機能を果たすことを拒否する私企業にお金を払わされ続けるだけの、単なる詐欺になりつつあるね。
笑っちゃうんだけど、俺、Redditでサブアカウントのルール違反で永久BANされたんだよ。でも、サブアカウントなんて持ってないのにさ…？異議申し立てプロセスも冗談みたい。結局、12年使ったアカウントを消して、もうRedditに行くのやめたわ。
まあ、そろそろ潰れて生まれ変わる時期なのかもね。デフォルトのサブレディットもトップページもずっとゴミだったし。
Redditが、ChatGPTを使った低品質なLLMアカウントやボットで溢れかえってるのに、こんなことしてるなんて笑えるよね。AITAみたいなサブレディットの「テキストストーリー」も明らかなAIのカスだし、ユーザー（か他のボット？）はそれを食い荒らしてる。
Redditみたいなサイトは数%の誤BANなんて気にしてないんだろうけど、ボット業者は新しいアカウントをいくらでも作れるのに、本物のユーザーは誤BANされるとサイトへの態度がめちゃくちゃ悪くなる。Redditの審判の日は、広告主が払ってる広告がどれだけボットに表示されてるか気づいた時に来るだろうね。
ほとんどの先進国にはこんな状況はないよ。これは当たり前じゃないんだ。
Facebookを使わないのも解決策にならないんだよ。俺の新しい同僚は仕事で必要だったからアカウント作ったら、すぐに不審なアクティビティとしてフラグが立てられちゃった。
Linux Foundationがさ、政治的・社会的な歴史からプログラムを「hung（ハング）」と呼ぶのは不適切だって言うんだ。だったら、「ricing（ライシング）」なんて言葉、今どき許されると思う？
もしかしたら、カンマスパイス[0]を使ったからBANされたんじゃない？
[0] https://en.m.wikipedia.org/wiki/Comma_splice
RedditでSF Bay Areaの「パワーmod」をnimbyって呼んだら、IPとハードウェアで永久BANされちゃったんだよ。マジやばい！異議申し立ても自動で却下されるし、新しいアカウントも作れないんだって。
アメリカ人としてさ、一部は先進的で「ファーストワールド」なのに、他の部分、特に医療保険みたいに「発展途上国」より酷いことがあるのは笑えるよね。医療自体は一流だけど、医療保険は他国から見たら信じられないくらいひどいんだ。「笑うしかない、じゃないと泣いちゃう」って感じだよ。
Facebookが自動化で製品管理してるのってマジでひどいよ。Mark Zuckerbergって名前の弁護士を自動でBANしちゃったりするんだから：https://www.huffpost.com/entry/mark-zuckerberg-lawsuit-imper…
Facebookで広告出すと、理由もなく広告アカウントが制限されることなんてザラだよ。多額の費用をかけても人間の担当者に異議申し立てできないしね。だから、広告始める前にファンページ作って、5〜7日間適当な投稿して「いいね」を買うのが常識になってる。そうしないとシステムにアカウントをフラグされちゃうんだって。
彼、何が怪しいって判断されたんだろうね？参加してすぐに大量のフレンド申請（24時間以内？1週間以内？）とか、フォローリクエスト、アップボート？それとも複数の場所から複数デバイスでログインしたとか？プロフィールに第三者のリンクを貼ったとか？LinkedInも数年前から似たようなアンチボット対策を強化してるけど、AIが本物の人間と怪しい行動を区別するのってマジ難しいんだよな。
AIが判断するプログラミングテストと、AIによる不採用通知を受けたことがあるんだ。AIの拒否理由が自分のCVと全然合ってなくてイライラしたよ。人間が見たのかAIが見たのかはっきりしないけど、後者だと思ってる。AIが導入される前から就職活動は嫌いだったけど、今はもう完全に幻滅してるね。
こんな世の中で子供を奴隷として育てるなんて無理だから、子供は持たないって決めてるよ。親としては、こんな環境で子供を持ったらCPSに通報されちゃうんじゃないかって思うくらい。
RedditがChatGPT使った低品質LLMアカウントで溢れてるの笑えるわ。AITAみたいな板のトップページにある「テキストストーリー」もAIが作ったゴミなのに、ユーザーはそれに騙されてるんだよ。この投稿見てよ
https://www.rareddit.com/r/AITAH/comments/1ft3bt6/aita_for_n…
LLMの応答の一部が入ってるのに、誰も指摘してない。笑えるけど、悲惨だね。
これって架空の話じゃないんだよな。ちょっと前に、健康保険会社が本当の医者を雇って、一日中パソコンの前でAIの決定を「承認」させ続けてたって話があったんだ。法律で必要とされてたからなんだけど、AIの決定を拒否したらクビにされたってさ。
なのに、なぜか詐欺広告は止められないんだよな。
この2年で、ほとんどのユーザーがAIが作ったストーリーだって気づかない、みたいな話をたくさん見てきたよ。大衆がこんなに簡単に騙されるなら、民主主義の未来が心配だね。これに対抗する良いアイデアある人いる？
そうだよ！ここ6ヶ月でCignaと3回も戦ったよ。健康診断の予約、家族の救急車の利用、高額な医療費の請求を却下されたんだ。電話して交渉しないと、一つも保険金請求を承認してくれない。却下通知はもっともらしく見えるけど、状況を考えると意味不明なことが多いんだよね。
もし、お前がBAN逃れしようとしてるって疑われたらアカウントをBANされるぞ。だけど、そいつらのBAN逃れ検出は過敏なんだ。
もしAIが家主や医療保険会社で意思決定に使われるとしても、別の民間企業を使えばいいだけだ。民間企業は利益のためにサービスを提供するから、特に危険はないよ。
Linux Foundationを「世界の言葉の警察」に任命した覚えはないんだけど？
大手AI企業はプライバシー保護を推進するだろうね。Sam Altmanも弁護士と依頼人の特権に例えてたし。でも、プライバシーがないと個人アシスタントとして信頼できないよね。
唯一の解決策はローカルでAIを動かすことだけど、ビジネスモデルに反する。だから規制でプライバシーを作ろうとするだろうけど、それは結局自分でコントロールできない問題が残るんだよ。
「ビジネスモデルに反する」って言うけど、ハードウェアを売るなら違うよね。もしApple、Dell、Lenovoなら、Hugging Faceをサポートするローカル実行モデルを推し進めて、ローカル推論ができるシステムを全力で開発するだろうね。
ローカルモデルは（特にAppleには）すごく理にかなってるけど、OpenAIみたいな会社が苦労して訓練した重みを配布するビジネスモデルを考えるのは難しいよね。
重みに顧客がお金を払うかどうかは著作権法次第だけど、OpenAIは著作権と複雑な関係がある。自分たちはライセンス無視でデータを摂取するのに、重みは誰も共有できないってのは都合が良すぎない？
「重みに顧客がお金を払うかどうかは著作権法次第」って言うけど、そもそも重みが著作権法で保護されるのかな？アメリカだと「著作物」じゃないから無理だと思うけど。
「OpenAIが訓練した重みを配布するビジネスモデルは難しい」って話は、ブラウザ戦争にそっくりだね。あの時は、後々の利益のために、プラットフォームを無料で積極的に広めて市場を支配するのが勝ち戦略だったんだ。
もっとコメントを表示（1）
「重みに顧客がお金を払う」には、ハードウェアの追加オプションとして重みを提供すればいいんだよ。顧客は重みとハードウェアの両方に支払う形だね。ハードウェアを買えばmacOSが無料なのと一緒だよ。Appleは年間350億ドルもR＆Dに使うんだから、GPT-5の訓練費用5億ドルなんて屁でもないさ。
モデルの重みはコードというより生のメディアファイルに似てるから、ソフトウェアよりも移植がずっと難しいんだ。別のランタイムに変換するのは簡単だけどね。
CodeiumはOpenAIと交渉する前はエアギャップソリューション（オンプレミスで動くやつ）を持ってたんだよ。彼らはどんなハードウェアを買えばいいかまで教えてくれてたんだ。
オンプレ環境でもモデルの重みは抽出できるし、メディアのDRMと同じ問題があるんだよね。大企業は、自分たちで管理できない監視や記録なんて認めないよ。
何言ってるか分からないな。俺は大企業で働いてるけど、AIをシステムに解き放ったりはしなかったし、外部との通信もできないようにしてたよ。でもユニットテストを書くのにはめちゃくちゃ便利で、作業がすごく速くなったんだ。
堀なんてないんだよ。
注目すべきは、Appleがローカルモデルを推し進めてるってことだね。オープンじゃないし、まだ成功は限定的みたいだけど。
Appleはそのうち何とかするさ。iPhoneの開発に5年もかかったのを思い出してごらん。彼らはこういうことを急いだりしないから。
OpenAIが何十億ドルも払ってでも、君のシステムで主要なAIモデルになる可能性があるのに、なんでそんなことするんだ？
Fiat privacyは、セラピストに殺人を告白したり、秘密鍵を紙に書いて金庫にしまうのと同じ問題を抱えてる。LLM提供者がプライバシーのために富と自由を犠牲にする覚悟があれば、社会は良くなるはずだ。
昔、秘密情報源の情報を法廷で破壊したリチャード・マステン氏の例のように、原理原則に立つことは機能するんだよ。
サム・アルトマンはインタビューで弁護士・依頼人秘匿特権と比較してたけど、OpenAIって全ての通信を監視して、政府への脅威と判断した人を報告するって言ってた会社じゃない？
https://openai.com/index/helping-people-when-they-need-it-mo…
『もし人間のレビュー担当者が他者への深刻な身体的危害の差し迫った脅威を含むケースだと判断した場合、我々はそれを法執行機関に報告する可能性があります。』ってね。全体的には良いことをしようとしてるのは分かるけど、企業が所有するAIが俺の質問を全部監視してるのは嫌だね。電話会社が通信を監視したり検閲したりするのは違法だったはずなのに、AI文字起こしが進んだら、企業が全ての通話を監視して、LLMに食わせて判断させるようになるのも時間の問題だよ。
でも、そのサービスを通じて話してるのは人間じゃないよ。唯一の通信は君とOpenAIサーバーの間だけで、入力メッセージを受け取って出力するだけなんだ。みんなLLMがプライベートだと思い込んでるけど、特に法執行機関が介入してきたら、そんな保証はどこにもないんだからね。
テック企業は賢くなって、理想を語りながら時間稼ぎしてるんだよ。政府が動く頃には、彼らは巨大化して政治家を買収できるほどの力を持ってるさ。
最初から市場に入ると、そこを好き放題できて、客を食い物にしても、少額の集団訴訟で済む。そして規制がようやくできる頃には、数百億ドルの市場力で政治家を懐柔できるわけ。アメリカ政府はAI企業に少なくとも5年は何もしないし、その頃にはOpenAI、Google、Metaが全部決める側に座ってるよ。
サム・アルトマンって、「詐欺コインのためにバイオメトリックデータを集める」奴だろ？
マジで信用できる奴なわけないじゃん。
「プライバシーのため」とか言いながら、みんなで眼球スキャンを提供してWorldcoinを買うべきだ、ってか。冗談でしょ。
「マジで信用できる奴」って？
アルトマンがY Combinator（Hackernewsの運営元）でキングメーカーになったってこと、分かってる？
ここで君が追跡されてないとか、君のメッセージがLLMの学習に使われてないとか、どうしてそう思うんだ？
奴が詐欺師かって言えば、シリコンバレーのエリート連中（この場所が崇拝してる奴らね）はみんな詐欺師だよ（今週のTrump Dinnerを見てみろ）。情報機関とも明らかに繋がってて（いくつかのMag 7 corpsでC-suiteに任命された新任将軍たちを見てみろ）、自分の目的のためならファシストにも媚びるんだ。それに気づいてないなら、単に世の中を見てないだけだよ。
奴の詐欺コインなんて、これまで見てきたあらゆる詐欺の中で、今となっては取るに足らないレベルだよ。
プライバシー保護を求める動きが出てるのは、すでにプライバシー侵害の懸念が現実になってきてるってことじゃないかな。
アルトマンがOpenAIの「信頼された」プラットフォームに十分な人が集まったら、広告を売り始めないと思う？
これはすごく的を射てるね。チャットボットと話したことがあるみんなに伝えたいんだけど、過去のチャットボットとの会話内容（今すでに存在してて、実質的に削除できないもの！）は、将来、広告のターゲティング、経済的・政治的な操作、そして「君専用の影響力」を最高額で売りつけるサービスとして使われる可能性があるってことを理解しといてね。
追記：チャットログを「学習に使う」だけが問題じゃないんだ。それじゃ危険性が過小評価されちゃうよ。こう考えてみてほしい：将来の広告ボットや影響力ボットが君と話すとき、君の他のボットとの過去のチャットログを文脈として受け取って、何が君に効くか、効かないかを知るために利用するんだ。
追記2：あと、他の人とのチャットログもだよ。もしそれが保存されたプラットフォーム上で起こって、後で売られるほど必死になったらね。考えれば考えるほど、どんどん悪くなる一方だ。
正直、リターゲティング広告とかパーソナライズされた広告は別に気にならないな。
どうせ広告を見るなら、興味あるものの方が、ワケの分からない医薬品とか見せられるよりマシでしょ。
AIチャットボットで一番怖いのは、搾取者にとってのインターフェースになることだよ。
「この人との全チャット履歴を踏まえて、どうすればXをさせられますか？」ってプロンプトするだけで、AIが全部やってくれるんだ。専門知識なんて全く必要ないんだよね。
広告って、君に最大の価値をもたらす製品のためじゃなくて、広告主に最大の利益をもたらす製品（例えば、君を操作して高価なものを買わせるような）のためなんだよね。
本当に良くて安い、君にほとんど全ての余剰価値をくれて、メーカーにはほんの少しだけ利益を与えるような製品は、広告枠の入札には負けちゃうだろうな。
広告は単に製品を売るんじゃなくて、ユーザーの行動を変えさせるためにあるんだよ。自己肯定感を下げて「これがないとダメ」って思わせて製品を買わせるみたいにね。これってユーザーにとってベストなわけじゃなくて、敵対的なサイコテックだよ。おまけに、誰かがユーザーの行動パターンに合わせてメッセージを送れるように、経済的・政治的なプロファイルを作る副作用もあるんだ。
もし脳みそをオフにして「うまくいくに決まってる」って考えたら、これがどう機能するか分かるだろうね。
ターゲティング広告で本当に興味あるものを見たことある？それって珍しい経験だよ。みんな「Amazonでトイレットペーパー調べたら、Charminの広告ばっか見るようになった」って言ってるじゃん。
広告は行動変容を促すって？それは広告の一種でしかないよ。広告にはたくさんの種類があるんだ。もし本当に詳しいなら、そんな基本的なことは知ってるはずだけどね。
これまだ見てないの？
https://cybersecuritynews.com/fraudgpt-new-black-hat-ai-tool…
TikTokやInstagramの広告でくだらないものを衝動買いしすぎたから、もう使うのやめたよ。だから、少なくとも私みたいに広告のせいでやめといてよかったって思ってる人が二人いるってことだね。
規模の経済があるなら、人気商品って値段や品質で優れてるはずだよね。効果的に広告する会社は、広告と市場シェアのおかげで、もっと良い商品を出せる可能性もあるんだ。剰余価値なんて、世界を理解するにはあんまり役に立たない概念だよ。
ユーザー側のAIがすぐ必要になると思うよ。それが広告主のAIと交渉して、ユーザーに一番良い広告を見せるんだ。これはプラットフォームかハードウェアレベルで実装すべきだね。これで、ユーザーにとって良くない広告が表示される問題は解決するよ。
何がそんなガラクタを買わせたの？
もっとコメントを表示（2）
人気の製品は質や価格で優れてるって？それは多くの現実からかけ離れてて、よく考えたとは思えないな。学術的な理論ではそうかもしんないけど、現実世界じゃ通用しないこと多いぜ。
そうそう、広告って行動を変えさせるもんだろ？公然と話されてるんだぜ。信じられないなら、これ見てみろよ：https://brandingstrategyinsider.com/achieving-marketing-obje…
『究極のマーケティング目標は行動変容だ — 消費者の行動に変化がなければ何も意味ないからな』
広告オークションをローカルでやるなんて無理だよ。会社が関連性で広告をランク付けしたいなら、とっくに自分たちのとこでやってるはずだ。アドブロッカーを使えばいいだけじゃん。
AIを搾取する側として見てみたらどうだ？エージェントが日常タスクをこなす世界では、AIはユーザーの過去チャットを見て、AIのマスタープランのためにタスクを『強く推奨』するようになるだろうな。
じゃあなんで20年間もパーソナライゼーションがあるのに、俺はまだジャンク広告ばっかり見てるんだ？ドロップシッピングとかLLMラッピングのビジネスとか、もううんざりだよ。ほとんどの広告がゴミだろ。マジで迷惑なんだよな。
そう、俺が言いたいのはAI搭載のアドブロッカーだよ。だって、良い広告もあるし、お互いにとってメリットがあるやつも存在するんだからな。
それは広告主が『ブランド』とかいう自分たちの想像に売ってるからだよ。もし広告の顧客が賢かったら、『広告主フレンドリー』なんて言葉は存在しないはずだ。娯楽を見てる人や『死ね』って言ってる人に広告を出しても人を不快にさせないって、もっと賢く気づくはずだろ。
マジか？このロジックが崩れる一番よくある例は、人気のない製品を使うことからステータスや自己価値を見出す変な習慣だよ。そして、全ての反証にもかかわらずその選択を熱心に擁護するんだ。IKEAの家具と同等の品質のものを手に入れようとすると、驚くほど金がかかるぜ。それでも人々はIKEAを下に見るんだ。
それってまさに洗脳だよ。洗脳とは、誰かに特定の忠誠心、指示、または教義を採用させるための体系的な努力のことだ。
もしくは、法的なケースに関連する何かを話したら、法廷で文字通り読み上げられることもあるぜ。
個人のターゲティングはこうじゃない。やり方はこうだよ。
Shiftkeyの各看護師にはシフトごとに異なる賃金が提示される。アプリは、カオスで規制されていないデータブローカー部門から安価に購入した市販の金融データを使って、各看護師がどれだけ困窮しているかを予測するんだ。銀行口座の残高が少なく、クレジットカードの負債が多いほど、アプリが提示する賃金は低くなる。詳細はこちらで確認できるよ。
https://pluralistic.net/2024/12/18/loose-flapping-ends/#luig…
俺は君と全く逆の意見で、君の立場がよく分からないんだ。全く関係ない広告の方が無視しやすいから、そっちの方がいい。ターゲット広告は君の思考プロセスを明確に邪魔する。なぜなら、彼らは何が君を邪魔するかを知っていて、以前は何も欲しくなかったところに「何かを欲しい」と思わせるからね。ターゲット広告は「製品化されたADHD」だよ。これは非生産的だ。MadnessのOne Step Beyondの冒頭みたいに、「Hey you! Don’t watch that, watch this!」って感じ。
問題の一部は、企業が商品を欲しがりそうな人に対して、より小さな割引しか与えないようになることだよ。地球上のあらゆる人についてもっと深く理解することの最終的な影響は、人々が商品の価格を、彼らが支払ってもいいと考える最大限の金額だと感じるようになることだ。これは企業、そして最終的にこの種のパーソナライゼーションを可能にするAI企業へと、より多くの利益を移すことになるね。
AIは大規模な遡及的な思考監視を現実のものにする。これは恐ろしいね。
人々は何もオンラインに投稿したくない、という結論に至ると思うよ。プライベートチャットは、もし存在し続けるなら残るだろうけど、すでにアート作品を生成したら、GoogleやMetaの株主にもうほとんど寄付してるようなものだからね。これは思考監視とか似たような影響が出る前の話だよ。
「オンラインに何かを投稿する」ってのは、たぶん「電子機器の近くで、本当の思考や感情を外に表現する」って意味だろうね。
