OpenAI、米国防総省の2億ドル防衛契約を獲得！
引用元：https://news.ycombinator.com/item?id=44293988
国防総省のソフトの買い方見てるとさ、金はめちゃくちゃ使うしニュースになるけど、結局現場の人はExcel使い続けるんじゃないの？結局何も変わらない気がするな。
2億ドルなんて、OpenAIからしたらはした金っしょ。もし試作が成功したらラッキーくらいで、失敗しても全然痛くない金額だよな。
政府って無駄遣いや汚職でどんだけ税金垂れ流してるか考えたらさ、今回の2億ドルなんて政府の契約金としては全然大したことない額だよね。
DOGE（政府機関？）は無駄をなくそうと頑張ってたけど、結局何も見つけられなかったらしいじゃん。なんでそんなに「無駄とか汚職」があるって言い切れるわけ？
ちゃんと議論しようぜ。DOGEとか特定の政権じゃなくて、「政府」全体の話をしてるんだよ。もっと広い目で見てみ？無駄とか汚職がゼロの政府なんてあるわけないじゃん。
自分の国の契約見てみろって。税金に見合う価値があるか？なければ無駄か汚職かだよ。
もう当たり前になりすぎて、みんな気にすらしてないけどね。
「価値」って言葉、難しいよね。経済だけじゃないし、見る人によるじゃん。「市場価格」を政府の仕事に当てはめるのもおかしいよ。
価値とコストが見合わないってだけで「腐敗」とは限らないんだ。意見が違うだけってこともある。政府に汚職ゼロとは言わないけど、実際より大げさに言われてる印象もあるかな。
2億ドルがはした金なんて思ってる奴こそカスだよ。現実にはただの無駄遣い。
こういう非生産的な税金は、インフレのバランス取る役目もするから、余計に無駄なんだ。毎年何億も無駄にしてるって考えたらヤバいだろ？それが結局、インフレと生活の質の低下につながるんだよ。
「価値」って、結構客観的に測れると思うんだよね。例えばさ、アメリカは医療とか教育に他より金かけてるのに、結果は全然ダメ。これって無駄とか汚職のせいじゃん。
もし道路の工事費が市場だと1km600万なのに、政府が2000万以上で契約したら、それは税金が無駄遣いか汚職で消えてるってこと。
こんなの多くの国で普通に起きてることだよ。
軍事系のソフトってさ、全部がみんなに公開されたり、普通のパソコンで使われたりするわけじゃないんだよ。
アメリカの軍事費ってマジで1兆ドルなんだぜ。次世代兵器の試作に2億ドルが無駄遣いだと思うなら、悪い知らせがあるな。
政府の無駄遣いや汚職は報道でさんざん暴かれてるし、Googleで検索すればすぐわかるだろ。ソースがないと認めないの？貼ったら急に信じるわけ？一体この会話をどこに持っていきたかったんだよ？
https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai…
人が人を殺す行為（ドローンとか）って距離があるけど、それでもまだ大変なら、ターゲット選定をAIにやらせる方が楽になるかもな。
TCP/IPってどこから来たか知ってる？どのコンピューターにも入ってるよ。
＞それが無駄遣いと汚職のせいだって？
国のシステム（医療とか）の目的って同じじゃないんだよ。アメリカだと医療システムの目的は利益を出すこと。だから医療がお金かかるのにサービス悪いのは、利益のために費やしてるからって説明がシンプルだな。
＞”waste and corruption”だって？
まあ、”waste”って保守派は「貧乏人のために使われたり、金持ちにあげなかったりするもの」って定義することが多いんだよ。その基準で見ると、アメリカ政府には”waste”がいっぱいあるってことになるな。
アメリカで権威主義が強まってるし、軍がアメリカ市民に使われる可能性が高いよ。AIが人間にとって代わると、大事な安全装置がなくなるんだ。マジでヤバい方向に向かってるな。
＞システムの目的は国によって違うって？
それって俺が言ってた汚職のことじゃないのかよ？
政府がソフトウエアの年間ライセンスを何万件も買うのに、実際にアクティベートされるのが数百件だけの場合、それってなんて言うの？
これって無駄じゃない？
米国内の会社にお金払ってるんなら、それはホントに「無駄」かな？
お金は消えなくて、アメリカの会社に再分配されるだけだよ。
小銭だって塵も積もればデカくなるんだよ。
そうじゃないみたいに振る舞うのはやめろよ。
「家賃に給料の70%使うのは、流行りの場所に一人暮らししたいから」っていう極端なケースを除けば、家計から最小の町の一番小さいビジネス、連邦政府まで、 literally 何にでもこれは当てはまるんだ。
うーん…違うんじゃない？
伝統的な意味では違うね。
こういう文脈での「腐敗」は、不正とか窃盗とかを指すのが一般的だよ。
倫理的な意味なら、まあ、そうかも？
＞アメリカが医療、教育、育児に他の先進国より金使ってるのに、結果は全部遅れてる
ってあるけど、アメリカの医療と育児は民間だよ、政府じゃない。
教育費も私立大学とかだろ。
民間セクターの方が非効率で腐敗してるって言いたいのか？
ああ、これ知ってる！
誤差って言うんだよ！
2億ドルなんて1兆ドルの0.02%じゃん。
1兆ドルの軍事費がOKなら、2億ドルの契約なんて気にしないだろ。
ポケットから3ドルくらいまっすぐ出てく感じだよ、しかも失敗するだろうし。
あの1兆ドルの軍事予算には、避けられない費用（年金、給料とか）も多いけど、こういうクソみたいなのもいっぱいあるんだ。
君の議論はheap paradoxみたいな感じだね、「予算がデカいから、これは関係ない」って。
でも予算ってのはこういうサイズのものが積み重なってできてるんだよ。
直すには、積み上げるんじゃなくて、砂粒を取り始めればいいだけだよ。
https://en.m.wikipedia.org/wiki/Sorites_paradox
政府の無駄や不正は昔から言われてるけど、実際に調べると民間セクターと同じくらいなんだって。
これ見てよ: https://www.epsu.org/sites/default/files/article/files/EN_EF…
あと https://www.google.com/url?sa=t&source=web&rct=j&opi=8997844….
政府の方が許容されないのは、民間では個別のサービスにお金払うのに対し、公共では共有インフラにお金払うから、自分の払ったお金に見合わないと感じるんだ。
でも、みんな安定して豊かな社会から恩恵を受けてるんだよ。
無駄や不正を信じるのは楽だけど、ただ飯なんてないんだよ。
じゃあアメリカの納税者たちは、自分たちの政府に高くてクソみたいな医療保険を、医療サービスの代わりにくれるよう自発的に頼んだの？
これって前のコメントへのまともな応答？そうは見えないな。君も例が違うって分かってるでしょ（通信プロトコルの長期R&Dからの政府導入→業界採用…と、防衛向けに調整されたGenAIモデルへのかなり初期段階のアクセスとじゃ）。
例示の違いを指摘してて、前のコメントへの返答としてはイマイチって言ってる感じ。
AIの経営陣が公で何て言おうと、戦争や防衛関連のAI応用にヨダレ垂らしてるのは間違いないね。軍産複合体には金がうようよしてて、無視できるわけない。もしAI会社の“ビジネス”部分が風の中の屁みたいに不安定なら、なおさらだ。
AI企業が軍事マネーに目がくらんでるって批判。記事内容に直結してる。
彼らは実際の応用なんて気にしてないと思うな。本当に大事なのは、AIプロバイダーと政府の間で仲介役として金儲けすることだよ。見栄えのするくだらないものを押し付けて、将軍たちを喜ばせとくんだ。特に、何千ドルもするステーキをごちそうになったり、美味しい民間企業のポストを約束されてる連中をね。
AI企業は応用より金儲けが目的で、政府との仲介役として将軍を騙してるって主張。前のコメントに続く批判。
もっとコメントを表示（1）
誰かに“china”って言ってみなよ、そうすれば君の言うことがどれだけ本当かわかるから。
AI企業が軍事に関わる理由として“china”を挙げると本音が出る、という示唆。前のコメントへの追従。
軍事企業がTolkienの作品から名前を取ってることに腹立ってる人いる？Andruil、Palantirとか…。Tolkienが大切にしたものを嘲笑してるみたいで、許せない。
Palantirなどの軍事関連企業がTolkien作品から名前を取っていることへの怒り。記事の主題から少し外れるが、技術企業の倫理に関連する話題。
あのピックアップトラックの上でドローンが爆発するデモ見た後、開発者たち「最高！」とか言ってハイタッチしてんのかなって思うわ。訂正: 私は銃反対じゃないし、防衛の必要性も理解してる。USAが今あるのは第7艦隊みたいなもののおかげで、だから私は人生を楽しめるんだ。道徳的な高み？それだって「余ってる金全部困ってる人に寄付してるのか？」って反論できる。それに技術的な課題も面白い。最近、crosspol jammingのビデオ見てた。誰かがやらなきゃいけないんだ。
これら全部、Peter Thiel関連だと思うよ。
前のコメントで言及された企業（Palantirなど）がPeter Thiel関連だと指摘。
空軍がStar WarsのIPを使ってる、特にKessel RunプロジェクトでMillennium Falconを使ってるのもムカつくね。見てみて: https://en.m.wikipedia.org/wiki/Kessel_Run
前のコメント（Tolkien）に続いて、軍隊によるフィクションIP利用への批判。Air ForceのKessel Runプロジェクトを例に挙げている。
＞ Tolkienが支持したものへの嘲笑だし、マジ嫌いだ
何言ってんの？Tolkienは平和主義者だとでも思ってた？
むしろ逆で、彼の本は軍備が足りない社会（Rohan、Gondor、孤立したElves、自己満足なMen）に否定的だよ。
よく見張りや準備、邪悪な敵に対する強さの必要性を強調してるじゃん。
Tolkienが支持したものの、どこを馬鹿にしてるの？TolkienはWW1に従軍してたし、WW2では暗号解読者の訓練も受けてたんだぜ。軍事技術には価値を見出していたかもって気がするけどな。
＞ 軍事技術に価値を見出していたかもって気がするLOTRにはかなり強い反産業的なテーマがあるじゃん。
それはElvesや魔法使いの話の中でのことだよ。WW2でUKがSpitfires作ったりドイツの暗号を破ったりしたことを、彼がひどいと思ったはずないと思うけどな。
USD 200Mなんて、米国の防衛の世界じゃめっちゃ少ない金額だよ。それに、これは正式にはパイロット（試験運用）って位置付けだし、IOCに達するまでは無視して大丈夫。
でも、これが示してるのは自律能力に関する戦略的方向性の変化だね。LLMをdroneに搭載することはないだろうけど、国防にはAI製品が意味のある形で対処できるサイバーとか管理の分野の問題がたくさんあるんだ。
＞ LLMをdroneに搭載することはないだろうけど
すっげー自信満々に言ってるけど、それが実際に限界なのかは超怪しいな。
あと、Chief Product Officerを兵隊にしてるんだぜ。
「新しく陸軍予備役の少佐になった4人は、PalantirのChief Technology Officer、Shyam Sankar；MetaのChief Technology Officer、Andrew Bosworth；OpenAIのChief Product Officer、Kevin Weil；そしてThinking Machines LabのアドバイザーでOpenAIの元Chief Research Officer、Bob McGrewだ。」
https://www.army.mil/article/286317/army_launches_detachment…
droneにLLMを追加する必要なんてないよ。言語モデルは不要。米国はかなり前から完全自律型droneを既に持ってるんだ。これらのdroneは既にhard-modeで動いてるぜ。
＞ IOCに達するまで
今どきGPT-2を真面目に使うことを想像してみてくれよ。
だからお役所の仕事は安泰なんだよ：IOCになる頃には完全に時代遅れになってるからね。
IOC（Initial operating capability または initial operational capability）は、ある能力が最小限使える形で配備可能になった状態のことだよ。政府や軍の調達でよく使われる言葉みたい。詳しくはWikipediaのこのページを見てみてね→https://en.m.wikipedia.org/wiki/Initial_operating_capability
つまり、MVP（minimum viable product）ってことだね。
Initial Operating Capability（IOC）は、多くの人が考えるMinimum Viable Product（MVP）とは明確に違うんだ。WikipediaのIOCのページには「一般的に、あるシステムを受け取る予定の部隊や組織の一部がそれを受け取り、使用・維持できる状態」って書いてある。
でも[1]の引用だと、MVPは「人が使うか買うか、使えるか、必要な時にリソースで提供できるか」っていう「価値がある、使える、実現可能」な最小限のプロダクトのことって定義されてる。実験は「MVP Test」って呼んで混乱させないようにしてるって言ってるよ。[1]はここ→https://www.svpg.com/minimum-viable-product/
つまり国防総省（DoD）版のMVPってことだ。
国防総省（DoD）がOpenAIに何を求めてるのか誰か知ってる？精度低い／ゴマすりミサイルとか？
たくさんあると思うよ。SIGNT／HUMINT分析、事後報告の要約、抑止力最適化のためのウォーゲーミング、人間と機械の協働、戦士向けのLLM活用（LLM-in-the-loop）、部隊が現場でソフトウェアソリューションを立ち上げるための迅速なコード生成とかね。個人的には可能性は無限大だと思うな。
いわゆる’warfighter’のためのLLM活用（LLM-in-the-loop）って、戦争のやり方としては真逆だと思うけどな。
国防総省（DoD）には、物流、プロジェクト管理、人事管理、福利厚生管理みたいな普通のビジネス業務も大量にあるって気づいてる？そうなんだよ。
大規模監視のためだと思うな。公開されてるあらゆるメディアの音声、動画、テキストから名前やエンティティを抽出できるだけでもすごく便利だろうし。
DOD（国防総省）は実際にはこういうことしないんじゃない？
もっと大きな話だと思うよ。「この契約のもと、担当者は戦争および事業領域の双方における、国家安全保障上の重要な課題に対処するための最先端AI能力のプロトタイプを開発する」って国防総省は言ってるしね。
「国家安全保障上の課題」って表現、すごい広いよね。USCGの救助隊員にぴったりのサイズのブーツを用意することだって、国家安全保障上の課題って見なされかねないよ。
人気のLLMモデル（NIPRGPT、各種DRENモデル）は「事実上の禁止」で、DODは統一ソリューションが必要なんだ。MSFTのGCC HIGHやGovCloudの実装は遅れてる。
でも、もっと重要なのは、みんなレイオフで手が回らない分をLLMで補ってるってこと。会議に出ると、政府の担当者が毎日ドキュメントや提案書をAIで生成してるのを見てるよ。民間世界がAIを使うことは、米国政府も全く同じことをしてる。直接的なターゲティングについては言えないけど、ISRとかにAIを統合しようとする攻撃的なプロジェクトが100個もあるって絶対そうだよ。
_重要な_って書いてあるじゃん。
- 国防長官がどっか爆撃したい。補佐官に正当性、兵站、結果に関する報告書を頼む。2. 補佐官は部下に報告書作成を指示。3. 部下はChatGPTで100ページ報告書書いて補佐官に送る。4. 補佐官はChatGPTで要約して長官へ。5. 長官は誤って要約を公開SNSページに投稿、その後大統領へ転送。6. ボーン！爆撃成功。
自動生成でネイティブみたいな自然さ、リアルタイムで相互作用可能な大規模プロパガンダ。これこそ軍産複合体がLLMで最後に狙ってた金儲けだよ。だからMetaとかOpenAIのテクノロジー幹部を招集してるんだろうね。
もっとコメントを表示（2）
それは単に、今はPalantirに外注してるからだよ（NSAが担当してない部分だけね）。
なんで？脅威評価とか、民間人の被害を避けるのに役立つかもしれないじゃん。どんな武器や技術でもそうだけど、使い方次第だよ。「warfighter」は「兵士」の現代の業界ー学術用語ね。
AI爆弾に人格がある映画は「Dark Star」だよ。記事と関係あるかな？ https://en.m.wikipedia.org/wiki/Dark_Star_(film)
初めて聞いた話だね。詳細が見つからないんだけど、ソースを教えてくれる？
「助ける」って言うけどさ、
（仕事失敗すんじゃないの？）
Planatirの古いデモでさ、チャット形式で目標選定とか戦闘計画とか助言してたの見たら結構ゾッとしたよ。今はもっとすごいんだろうな。
国防総省って戦闘員派遣するだけじゃないんだよ。世界最大の雇用主で、他の巨大企業と同じく、あらゆる面倒な問題を抱えてるんだ。
国防総省の仕事で、どんだけ兵器と関係ないことが多いか知ったら驚くよ。
いや、みんな「防衛」って聞くとすぐ兵器だと思うけど、違うんだよ。国防総省だって普通の会社と同じ機能を持ってる。これはChatGPT for Govみたいなもんで、動画や記事の要約とか、文書の校正とか、みんながLLMでやってることと同じに使われるんだよ。ただ、外部ネットに繋がらないDoDのPCからしか使えないだろうけどね。
＞“この契約は、2億ドルを上限として、OpenAIの業界をリードする専門知識を国防総省にもたらし、最先端AIが管理業務をどう変革できるか特定・試作する。軍人やその家族の医療改善、プログラム・取得データの検討効率化、積極的なサイバー防御支援まで。”
って訳すと、結局たくさんの軍人や管理者にGPTへのアクセスを渡すだけだろ。UIにでっかいDoDロゴと、”SECURE”とか”CLASSIFIED”って言葉が何十回も表示されるだけでさ。
ChatGPT、将軍が鍵どこに置いたか知ってる？
こんなことはもうパレスチナで使われてるし、米軍全体への統合には手間がかかるだろうね。主な機能の一つは、兵士のPTSD負担を減らしつつ、もっとずさんな標的設定を可能にすること。つまり、即時の反乱や脱走なしに、より犯罪的でジェノサイドな作戦を増やせるってことだ。コンピューターをオペレーターにとって説得力あるものにして、より多くの人々を脅威と見なさせるようにできる。たとえば、結婚式を見てるって分かってても、SNSの投稿とか昔誰とランチしたとかに基づいて、数人を’赤’ってタグ付けしてくる。いわゆる巻き添え被害がオペレーターをひどく傷つけ始める閾値を上げられるんだ。そして、自律型機械が殺人を犯すっていう夢。今の米国体制がよだれを垂らして、これらの企業が最終的に実現させてくれると願ってるのは間違いない。悪評と裁判沙汰になる警官の路上殺人から、代わりにバグのせいにされたJiraチケットを処理するだけになるのを想像してみて。
合衆国軍隊（ウォーターハウスはそう判断した）は、まず何よりも理解不能なタイピストとファイル係のネットワークであり、次に世界の片側から別の側に物を移動させる途方もないメカニズムであり、そして最後に、最小限に、戦闘組織である。—『クリプトノミコン』より
非営利団体から軍事契約への旅路だ。
’スピードのため’にAIを直接制御系に繋げる前に、スタンリー・ペトロフの判断基準をしっかり学習させてることを願うよ。
https://en.wikipedia.org/wiki/Stanislav_Petrov
＞1983年9月26日、ソ連軍が朝鮮航空機007便を撃墜した3週間後、ペトロフはオコ核早期警戒システムの指揮センターの当直将校だった時、システムが米国からのミサイル発射を報告し、それに続いて最大4発が報告された。ペトロフはこれらの報告を誤報だと判断した。
