ChatGPT全ユーザーが監視される？裁判官が「そんなプログラムは作ってない」と否定！

この全てのデータ保持の費用は誰が払うことになってるの？OpenAIがこの主張に勝ったら、原告からストレージ費用を請求できるの？「紙を数枚捨てないで、しばらく置いておいて」って言うのは良いけど、それは「裁判の残りがいつ始まるか分からないけど、それまでS3の請求に毎月50万ドル多く払ってください」とは比べ物にならないよ。（たぶんこの特定のケースでは、どちらの側にとってもそんなに大金じゃないかもしれないけど、このデータ保持に関する全てのことにコストはかかるんだ）。

保持命令がデータを当局に提出する命令とは違うって点は分かったよ。だけど、データが漏洩したり、秘密命令（gag order）を通じてデータが要求されたりするリスクは無視できないと思うな。そういったニュアンスに触れてない主張を裁判官が却下したのは正しいと思うよ。Google検索の場合って、どんな前例があるんだろうね。

一度データが保存されると、漏れたり他の目的に使われたりしやすい傾向があるよね。

Lex non cogit ad impossibilia ― 法律は不可能を強制しない。何が可能か理解してない人ばかりの司法システムってマジで問題だと思うわ。

＞ 裁判官が会社Xに”全てのデータを保持しろ”って要求する影響を理解してないみたいだね
いや、裁判官はそれが routine な手続きだって理解してるって信じていいよ。それより、 ChatGpt のユーザーが” the cloud ”にセンシティブな情報を渡す意味と、それがどうなるかを理解してないことの方が問題だね。気軽に巨大な third parties に渡したデータが、どれだけ簡単に召喚の標的になり得て、実際 routine にそうなってきたか、多くのユーザーは驚くかもしれないよ。例として、2つの huge company が訴訟を起こしたら、 legal process の一部で disclosure があるんだ。これは data stores 、 onsite servers 、幹部の laptops から vast quantities のデータを取り込むことを意味する。 Ashley Madison のデータが入った laptop だって含まれるんだ。もちろん legal process の一部として、これを exclude するとかの motion もあるけど、それはデータが抽出された後になることも多いね。この topic の理解には、 https://news.ycombinator.com/item?id=44361478 で DannyBee が言ってることに注意を払うべきだよ。 HN users がそうであってほしいと願ってることじゃなくてね。

もし HN がこういうことを決められたら、決定はもっと早くて予測しやすくなるだろうね。

まあ一つは、ユーザーはこの case で arg に参加する権利があるって established されたことだね。 OpenAI に rely する必要はない。 original plaintiff と同じように自分で motion を file できるんだ。 successful かどうかは別として、それは君の right だよ。

残念ながら、この obvious な結論に到達することが今の時代 newsworthy なんだってことは確かだと思うな…。

裁判官はこの issue に clearly 無関心だから、彼女の前で arguing するのは pointless みたいだね。 OpenAI と users にはどんな recourse があるの？

君に any recourse はないね、少なくとも American law の下では。これは textbook third-party doctrine case だよ。 American law と precedent は、 once 君が voluntarily データを third party （例えば OpenAI ）に give したら、それはもう君のじゃないし、それに関する reasonable expectation of privacy はないって unambiguous だ。多分 people はこれに bunch of exceptions で respond するだろうけど、 those exceptions は全て new laws で specifically に enumerate されて granted される必要があるんだ。 they don’t exist by default 、 and don’t exist for OpenAI 。 Like it or not 、 the judge の ruling は US law as it exists at present の framework に comfortably sits してるよ。 since there’s no reasonable expectation of privacy for chat logs sent to OpenAI 、 there’s nothing to weigh against the competing interest of the active NYT case 。

OpenAI は actual counterparty ここではね、 third party じゃなくて。 Presumably their contracts with their users はまだ enforceable だ。 Furthermore 、もし the third party doctrine が its most naïve form で upheld されるなら、 then this would breach the EU-US Data Privacy Framework 。 the US は equivalent privacy protections を those under the GDPR に ensure しないと、 the agreement は valid にならない。 the agreement も explicitly forbids transferring information to third parties without informing those whose information is transferred 。

real answer じゃないけど、 a local LLM が the way to go になると思うな。 I’ve been playing with them for some time now — and 、 yeah 、 they’re still not there with the save context 、 hardware requirements needed for a really good model … But I suspect like anything else in tech 、 a year or two from now a decent local LLM は not such a stretch だろうね。 I can’t wait actually 。 It’s less about privacy to me than to being offline 。

＞ユーザーはアメリカの法律では頼る術がないって言ってるけど、法を変えるしかないってこと？
あの判例もかなりおかしいし一貫性がないよね。例えば、郵便局にある郵便物を見るには令状がいるのに、GoogleやMicrosoft経由のデジタル文書にはいらないの？これってThird Party Doctrineの従来のケースとも違う。普通はGitHubとかに自分で置いたデータを裁判所が後から出すように命じるんだけど、このケースでは裁判官が本来持ってないはずのデータを保持しろって命じてるんだよ。これに歯止めがかかるルールがどこにあるか分からない。Microsoftはシステムアプデで全Windows PCにアクセスできるからって、クラウドにない全PCのデータを保持しろって命令できるの？大家さんが鍵を持ってるからって、アパートのファイルを令状なしにコピーできるの？

＞どこに歯止めがかかるルールがあるか分からない、Microsoftは全PCのデータを保持できるのか？
俺の理解だと、会社に新しいツールを作るよう命令はできないけど、既に持ってるデータを破壊するなって命令はできるってこと。だから、MSがユーザーデータを取り出すツールを作る能力があるのと、MSが既にそういうツールを持っててデータを集めて保管してる場合とでは違う。VPNみたいにログを取らない設定なら、そもそもデータがないから渡せない。全てのオンライン会社にユーザーデータの収集と保管を義務付ける法律はまだないけど、将来は分からない。多くの会社は自分でデータ集めてて、ユーザーはそれを受け入れるかサービスを止めるか選ぶんだ。もし会社が最初からデータを持たないサービスを作ってたら、裁判沙汰にはなってないだろうね。そういうサービスはコストがかかるし遅いし、急な変更が難しいんだ。プライバシーやセキュリティを最初から考慮するより、とりあえず動くものを作る方が早いからね。

＞ローカルLLMが主流になる
技術に詳しくない人はLLMの仕組みも知らないし、もっと重要なのはプライバシーを気にしてないってこと。技術が広く使われるには、一般受けしないとダメだけど、プライベートLLMの需要なんて今はほとんどゼロだよ。だからlocal LLMは勝たないと思うな。医療みたいな規制があるニッチなケースではlocal LLMを使うしかないかもしれないけど、全体的にはサービス提供型が勝つだろうね（いつものことだけど）。

まあ、今までの枠組みも無効化されてるんだから、今回も上手くいくなんて誰も期待してないでしょ。行き詰まった時のツケを避けるために、パニックになった政治家が問題を先送りしようとしてるだけだよ。

そうだね、裁判所は大統領令なんてそんなに気にしないだろうな。それでも、政治家が作った仕組みを揺るがすほど分別がないとは思えないけど。

問題は、「彼らが既に持っているデータ」ってのがどういう意味かだよ。大家さんが鍵を持ってるからって、アパートにあるファイル全部を「持ってる」ことになるの？

これは、OpenAIにどんな救済策があるかって質問への直接の答えだよ。ユーザーは公開されたくない情報をOpenAIみたいなアメリカのクラウド大手に送るのをやめるべき。

＞一度自分のデータを第三者、例えばOpenAIに自発的に渡したら、それはもう君のものではなくなり、それについて合理的なプライバシーの期待はできない
Third Party Doctrineはもっと酷いんだ。君が渡したデータはもう君のものではないどころか、彼らのものでもなく、政府のものになっちゃう。令状もなしに政府の情報提供者になることを強制されるんだ。たとえ契約でデータを秘密にすると約束しても、最高裁の賢くて知識のある法的な見解では、これによって「プライバシーの期待」は生まれないらしい。保管庫や暗号化、慎重な社員選定、警備員が君のデータと不正アクセス者の間に立ちはだかっていても関係ないんだよ。

EUの裁判所だって同じように記録保存を強制すると思わない？何か法的な争いで証拠隠滅を疑われたらさ。

USの3rd party doctrineはちゃんと法律だよ。何が分かりづらいの？discovery lawを変えるのは大統領じゃなくて議会だし、裁判官がUSの法律を破るわけないでしょ？

不動産や賃貸の法律とは別分野。データはユーザーが会社に「あげた」ものだから、possessionもownershipも会社にある。ユーザーはもう持ってないしownershipもない。会社がデータ収集するか決められるってこと。集めなきゃプライバシー問題も起きないんだから。

そうなんだよな。だからプライバシーに関する憲法修正とか、もっと根本的な法律が必要なんだよ。これって、政治に金の影響が少なければ超党派の問題になるべきなのにね。

まあ、やっぱりオンプレミスとか、サービス使わないのが一番安全だわな。使うにしても、どんなデータを共有するか超重要。USとEUじゃ法律全然違うし、EUの方がプライバシー保護強いよ。政府が企業にバックドア仕掛けさせる能力とかも違うし（EUも最近追いつこうとしてるけどね）。

3rd party doctrineは、最近のUnited States v. JonesとかCarpenter v. United Statesって最高裁判例で弱まってるんだぜ。あれは議会が通した法律じゃなくて、裁判所の判決だよ。OpenAIがもし裁判で負けたら、appeakする手もあるけど、発見手続きの争いじゃめったに成功しないらしいね。

賃貸の例え、全然違うでしょ。今回はユーザーが何か金銭的な義務を怠ってるわけじゃないし。ユーザーがプロバイダーのサーバーにデータ置くのは、アパート借りてて物置くのと似てるじゃん。なんで会社がこのデータ所有してるって言うの？著作権譲渡でもしたの？それとも契約次第？

君、混乱してるね。これはNew York Timesのデータ権の話だよ。君が言ってる doctrine は関係ない。裁判官が、OpenAIがユーザーの削除同意したチャットにプライバシーの合理的な期待はないって示唆してるんだけど、これ超変。だって削除されたデータはもう使えないんだから。

物理的なものとデジタルの比較は1対1じゃないよ。君は possession してないデジタルサーバーに「与えてる」んだ。Possession してる apartment とは違う法律が適用されるんだよ。企業はユーザーが与えたデータコピーをどう使うか自由にしてる。ユーザーが同意してるから許されてるの。

たぶんもう既に分けてるだろうけど、この判決でOpenAIはUSとEUでサービスを完全に分けなきゃいけなくなるんじゃない？USのユーザーはログ永久保存を受け入れて、EUのユーザーはデータ削除権がある、みたいな感じでさ。

なんかさ、これに激怒したりショック受けてる人が多すぎて変だなって思うんだよね。たぶんみんな、SignalみたいなE2EE以外、他のサービスでも全く同じようにデータが保存されてるって事実を知らないだけじゃない？Gmailはメールやドキュメント、携帯会社はテキストや通話履歴、RedditもXitterも投稿やDMを保存してるんだよ。これが良いか悪いかの判断じゃなくてさ、オンラインサービスの現状なんだってば。

＞I find it really strange how many people are outraged
＞This is not to make a judgement about whether or not this should be considered acceptable
あのさ、人が怒ったりショック受けたりするのは、それが受け入れられないからじゃない？君はそれが受け入れられない状況だってことだよ。規約とか以前に、OpenAIはユーザーのために捨てたいデータなのに、無理やり残させられてるんだよ。スタンス取らないって言ってる君が、この件で人がスタンス取ることにショック受けてるってのが、私はショックだよ。

怒りってのは、驚きと一緒に来るもんでしょ。でも、今回の件は全然驚かないんだよね。自分のデータを第三者に渡した時点で、その第三者を支配する政府からプライベートが守られるなんて期待しちゃダメだよ。21世紀になってからずっと、私たちはどれだけ常時監視されてるかってことを、ひたすら学び続けてきたじゃん。

これ理解してない人、意外と多いと思うよ。道端の適当な人とか、技術詳しくない友達に聞いてみなって。どんな答えが返ってくるか、マジでびっくりすると思うから。

私から見るとさ、これってGoogleが裁判所の命令に対して「プライバシー侵害だから従いたくない」って言ってるのと似てるね。OpenAIはプライバシー問題みたいに騒いでるけど、ニュース記者の何人かは情報源も確認せずにそれに乗っかってる感じ。だって、OpenAIのプライバシーポリシーなんて30秒で保存してLLMに聞けば、彼らが元々データを無期限に保持できること、すぐにわかるんだからさ。

たとえOpenAIとか他のLLM提供者が、法律でデータを保持しちゃダメって言われたとしても（この強制保持とは逆の場合ね）、彼らを信用すべきじゃないよ。もしセンシティブなデータをLLMに入力したいなら、ネット経由じゃなくて、自分のPCとかでローカルでやんな。

＞ prohibited by law not to retain the data
それって強制保持と同じじゃん。二重否定になってて、多分意図したことじゃないと思うよ。

あっ、うっかりしてた！その通り、意図してなかったよ。「prohibited by law from retaining data」が正しいね。

私たち人間社会はさ、生活のあらゆる側面が監視できるようになったこの新しい能力に、ちゃんと向き合う必要があるね。将来、医療とか疫学とかでデータ活用の大きなメリットがあるのは明らかだよ。でも、これ全部、私たちが信頼できる法的な枠組みがあるっていう前提なんだよね。裁判官がバラバラに判断するだけじゃ、ダメだと思うんだ。私の個人的な考えでは、人間個人の活動なしには存在しなかったり、違っていたりするデータは、その個人に帰属すべきなんだ。そして、そのデータが個人の最善の利益のために使われる場合だけ、本人の明確な同意と支払いなしに保持されるべきだと思うな（犯罪は除くけど）。ちょっと話が長くなったけど、「ユーザー／市民の最善の利益のために」っていうのは、すごく高くて価値のある基準だと思うし、私が活動することでデータが生まれたり可能になったりするなら、それは私に属するんだって考えは、データ企業にちゃんと考えさせると思うんだよね。みんなの意見も聞きたいな。