Framework Desktopが化け物級のPCだ！
引用元：https://news.ycombinator.com/item?id=44841262
Framework Desktopの64GB RAMと2TB NVMeモデルが1,876ドルで、同スペックのMac Studioのほぼ半額だって！Appleを価格で打ち負かすなんてすごいね。でも、Appleより安いからってそれが「超お得」とは限らないと思う。Appleはもっと競争力があるかと思ってたけど、倍の値段ってことはそうでもないみたいだね。Frameworkにはニッチベンダーのプレミアム価格も上乗せされてるのに、すごいよ。
彼はMac StudioじゃなくてMac miniと比較すべきだったんだよ。パフォーマンス的にほぼ同等だからね。64GB RAMと500GBストレージ構成なら、FrameworkとApple Mini M4 Proはほとんど同じ価格（CAD）だよ。Appleは内蔵ストレージにめちゃくちゃ高額を請求するけど、2TBならStudioじゃなくてMiniと比べれば、Appleのプレミアムは25%で倍じゃない。Apple Desktopを組むならNVMe SSDを挿せばいいんだよ。
Appleを擁護するわけじゃないけど、この比較は「リンゴとオレンジ」だよ。電力消費が簡単に比較できないからね。このスペックなら、1年間のTCOで見るとAppleの方がコストパフォーマンスが良い可能性もあると思う。互いに近いから、自分が一番使いやすい方を選ぶのが良いんじゃないかな。個人的にはLinuxが好きだし、非Appleのマシンが効率と性能でAppleに近づいてきてるのが本当に嬉しいよ！
1年間のTCOでAppleがコスト競争力があるって？それは訓練されたイルカから持続可能に供給された、職人技の単一供給源の電力を使ってる場合に限る話だね。Googleによると、USの平均電力料金は0.18ドル/kWhだよ。もしデスクトップが300Wを継続的に消費すると仮定したら（まずありえないけど）、年間473ドルになる。Macが完全にタダだとしても、5年後にやっと価格差が埋まる計算だね。デバイスの期待寿命より長い期間だよ。
それは純粋にAppleのSSDのバカげた価格設定のせいだよ。外付けSSDを使えば、かなり節約できるんだから。
可動部品がないデバイスなのに、期待寿命がたった5年って！？高パフォーマンスユーザーが5年で新しいシステムを欲しがるのは分かるけど、この64GB RAMのマシンが98%の人々にとって十分じゃないなんて、とても驚きだよ。当時の一般的なゲームをデフォルト設定でプレイしたい人たちも含めてね。もちろん、具体的な数字があるのは良いことだけど、いつも出発点としては役に立つね。
でもAppleは、自分でドライブをAppleマシンにインストールするのをどんどん難しくしてるじゃん。
Appleのベースモデルは結構競争力があるんだけど、RAMとSSDのマージンは業界で最も極端だよ。16GBから32GBに上げるのに600CAD、512GBから2TB SSDにするのに900CADも請求するんだから。
まず、5年じゃないよ。Macが魔法でエネルギーを使わないと仮定した場合の5年だからね。実際には、競合デスクトップの40～70%の消費量だよ（使い方やモデルによるけどね）。だから、価格差を埋めるには数十年くらいかかる。それにしても、5年以上前のMacを使ってるAppleの新規デバイス顧客なんて、一人も知らないね。電力の話は、Macの大きな価格タグを電力節約で取り戻せるって言ってたけど、そんなことはないよ。新しいのを買うためにeBayで売る前に、全然取り戻せないからね。デバイスがコンピューティングファームにあるみたいに24時間フルロードで動いてると仮定した場合でさえ、実際の開発用ハードウェアの平均消費電力（60%はサスペンド、残りの90%はアイドル）は300Wなんかよりずっとずっとゼロに近いんだから！
TCOを考えるなら転売価値も重要だよ。非Apple PCはほぼ無価値だけど、Apple製品は中古市場がしっかりしてて、購入価格の半分以上を簡単に取り戻せるからね。
512GBから2TB SSDに900カナダドルは高すぎる！SSDは自分で交換できるから、もっと安いサードパーティ製に替えられるよ。
Apple製品でストレージをユーザーが交換できるのはMac Proだけなんだ。Mac Mini & Studioはスロットはあるけど、Appleのファームウェアロックがかかってて、交換どころかアップグレードもできないんだよ。
全然難しくないって！これ見てみ？
How to Replace the SSD in your Mac mini (2024)
https://www.ifixit.com/Guide/How+to+Replace+the+SSD+in+your+…
中古PCってグラフィックカードは別として、マジで買う人とか売る人いるの？なんか変な感じ。俺のPCはだいたい10年持つけど、その頃には転売価値ゼロだし…。
うん、言いたいことは分かるよ。でもAppleを公平に見ると、40年近く前の68K MacとかiMac G4、PowerMac G3、初代Mac Proは今でも動いてる。俺が知る限り、ここまで長持ちするPCは当時Appleと同じくらいの価格だったものだけだね。AppleはRAMやストレージで法外な価格設定だけど、製品自体は長持ちするのは確かだよ（TouchBar MacBooks’ keyboardsは除く）。俺のMac Studioも長く使えるといいな。
あとね、5年とか10年前のMacの中古市場を見ると、あんまり信頼できるマシンじゃないってすぐわかるよ。
インストールするんじゃなくて、Thunderbolt経由で動かすんだよ。それで十分速いから大丈夫。
ファームウェアロックなんてないって！これiFixitのガイドだよ。
How to Replace the SSD in your Mac mini (2024)
https://www.ifixit.com/Guide/How+to+Replace+the+SSD+in+your+…
そのリンクによるとさ、Apple Silicon SoCにストレージコントローラーが統合されてるから、普通のM.2 SSDは互換性ないんだって。
FrameworkのSSDはかなり割高だよな。例えば「WD_BLACK SN7100 NVMe 2TB」は229ユーロだけど、普通の値段は140ユーロくらいだから、約90ユーロも高いってことだ。Appleと比べてどうなのかは知らないけどな。
「価格でAppleに勝ったって？ 」そいつは比較対象のMacを間違えてるぞ。一番近いのはM4 Pro Mac Miniで、Mac Studioじゃないんだ。今見ると、64GB M4 Pro Mac Mini 2TB SSDは2600ドルだぜ。まだFrameworkより高いけど、値段が倍ってわけじゃないだろ。Apple認定整備済製品なら2200ドルだしな。性能はM4 Pro Mac Miniの方が上だろうけど、どれくらいかは分からない。Ryzenプラットフォームのドライバやソフトウェアサポートは、まだこれからって感じだしな。Strix Haloの箱は素晴らしいと思うけど、今はちょっと過大評価されすぎてる気がする。供給と需要が落ち着けば、もっと安くなるはずだよ。
Thunderbolt 5は外部SSDにとって十分速いぜ。実際、そんなに速い外部SSDを見つける方が大変だろ。
俺の理解が間違ってなければ、FrameworkのストアページだとRAMを16GBから32GBに上げるのに687カナダドル（500USドル）も取るぞ。SSDは512GBから2TBにするのに214カナダドル（156USドル）だって。NVMeスティックだから安いんだろうな。
ポイントはな、AMD Ryzen Al Max+ 395チップが出るまでは、デスクトップやノートPCでAI関連のタスクができるのはAppleしかなかったってことだ。他に64-128GBのメモリを積んだGPUがどこにあったんだよ？
「Apple認定整備済製品が…」って、これは完璧な言い訳に聞こえるな。Appleが全製品ラインで価格を釣り上げてるって認めるのがそんなに難しいのか？
Strix Haloは、超モダンなNixosには最高のターゲットだから、EVO-X2（最初に発売されたデスクトップ版）向けにチューニングしてるんだ。（omarchyのHyprland riceも、いいriceだからすぐに使えるようにするぜ）。EVO-X2は同じ値段でRAMが2倍になるんだぜ。もちろんFrameworkには目に見えないクールさとアップグレードの余地があるから、金に糸目をつけないならFrameworkだな。でも俺はEVO-X2がマジでStrix Halo体験だって保証するよ。熱処理はしっかりしてるし、100W以上を継続しても普通のゲーミングPCより静かだ。もちろん、エリートITXビルドならもっとできるだろうけど、あの値段でこの性能は度肝を抜かれるね。素晴らしいポート、十分なM.2容量、極限の負荷でも安定してるし、ずっと安いからな。
AppleがRAMでどうやってぼったくってるか忘れるなよ。いつものことだぜ。
とはいえ、サードパーティが互換性のあるもっと安い代替品を作ってるしな。SSDコントローラはSOCにすでに内蔵されてるから、含める必要がないんだろ。
「AppleのPCだけが長持ちする」とか言ってるけど、そんなことないぜ。誰も気にしてないだけだ。うちの年下の子が去年引退させたPCだって、2012年発売の3770K Ivy Bridgeボックスで、約11年間も安定して使ってたんだからな。みんなAppleハードウェアを神聖視してるけど、実際のところ、今の電子機器製造はどれも頑丈なんだよ。
外付けじゃダメでしょ、内蔵がなきゃ意味ないよ。
もっとコメントを表示（1）
FrameworkのSSDは高いけど、Appleよりはマシだよ。Appleだと2TBにアップグレードするのに$600もするけど、その値段でWD_BLACK SN850X 8TBが買えちゃうんだぜ？PCIe 5.0が欲しいならWD_BLACK SN8100 4TBも買えるし、今んとこそんな意味ないけどね。
AMD 395+はAppleみたいにユニファイドメモリだから、ほとんどGPUが使えるんだ。だからラップトップCPUにしたってわけ。ちょっと遅いけど、デカいモデルをそこそこのトークン速度で動かせるよ。
GeerlingがFramework DesktopでLLMのベンチマークしたけど、あんま良くなかったな。ROCmもNPUも動かないし、iGPUでVulkan使ってもLlama 3.1 70b（40 GBモデル）で5 tok/secしか出ないって。これじゃ遅すぎて使い物にならないよ。https://github.com/geerlingguy/ollama-benchmark/issues/21
Ryzen AI Maxは、大きなモノリシックモデルより～100B MoEモデルで一番性能を発揮するんだ。例えばOpenAIのgpt-oss-120bだと40 tok/s出て、Llama 3.1 70Bよりほとんどのベンチマークで良い結果だよ。
プロンプト処理もかなり遅いと感じたな。100B MoEモデル動かしたかったんだけど、50～150 tk/sしか出ないから32kのコンテキスト処理に5分くらいかかるって。リンク先見たら70Bモデルだと20分近くかかるらしいし、これじゃ無理だよ。
「そこそこ」って基準が謎だな。16/24/32 GBのNVIDIAカードで動くような小さいモデルだと、このチップは中古で安い4080 superや3090と比べて3倍から10倍も遅いんだぜ。一番のボトルネックはメモリ帯域幅で、CUDAチップじゃないのも問題。32 GB VRAMを超えるモデルは、一般向けPCじゃ使い物にならないと思う。
用途によるんじゃないかな。質問がたまにだったら遅くても平気でしょ。俺の3090で80GBのモデル動かしてみたけど、遅いけどちゃんと動いたよ。もし答えがずっと良くなるなら1分くらい待つのもアリだね。もっとデカいモデルも試してみたいけど、容量が足りないんだ。
ユニファイドメモリでしかもはんだ付けかよ。速くなるのは分かるけどさ…まさかAppleみたいに電源も外付けなのか？…えっ、内部電源ユニットあるじゃん！すげぇな！
詳しく知りたい人には、Frameworkの公式ブログでこの件について深掘りした記事があるよ。FlexATX電源だから、特定の要件を満たせば別のやつに交換もできるんだ。https://community.frame.work/t/framework-desktop-deep-dive-p…
LPDDR5ってさ、Ryzen AIチップで動く唯一のRAMタイプになりそうだよね。
Frameworkってさ、メモリ交換できるRyzen AIノートPCも出してんじゃん。
そのRAM、今んとこはんだ付けのLPDDR5より遅いんだってさ。
CUDIMMメモリが同じワークロードでどう動くか気になるね。今はんだ付けメモリは避けてるけど、交換できて性能変わんなきゃ話は別だよね。
PCIレーンがまだ足りないから、はんだ付けメモリで速度アップしてるんだよ。Frameworkデスクトップで使ってるLPDDR5Xはスロット式がないんだよね。もっと安く自分で組めるし、最速のDDR5 CUDIMMと最速のメモリバスM/Bを組み合わせるべきだよ。
CUDAなしでAMD GPUだと、大規模モデルを動かすのに問題出るかもしれないから注意してね。
CUDA互換の解決策はあるよ。例えばこれとかこれね。完璧じゃないけど、統一への一歩だよ。結局、グラフィックドライバーがOpenGLからVulkanに変わった2013年と同じ岐路に立ってるんだ。CUDAは前からあるけど、最近やっと他のチップメーカーが注目し始めたんだよね。オープンソースとみんなの知恵に感謝だね。https://docs.scale-lang.com/stable/
https://github.com/vosen/ZLUDA
Framework好きでラップトップも持ってるけど、このデスクトップはギミックが過ぎるだけで、大して違いもないし、めちゃくちゃ高いと思うね。
十分似た代替品がもっと安く見つかんないなら、それは高値じゃないんだよ。
新しく出たモバイルやミニPC向けのプラットフォームを、プロプラエタリな技術と組み合わせて、できるだけ標準のデスクトップに近づけてるんだから、Frameworkの精神そのものだよね。
Right, but why go with mobile at all?
I get the laptops.For desktop you already have thousands of choices though and reparability, assuming its not some proprietary Dell/HP desktop, is already as good as it gets without breaking out your soldering iron.That said, they’ll know more about the market demand than I do and another option won’t hurt :)
For the purposes of running LLM models, a Mac Mini. The PC is cheaper, but it doesn’t have MacOS, Apple’s service or resale value.
Supporting OSS and repairable hardware?
Actually the pricing is pretty similar.Framework Desktop price with default selections, 32GB of RAM, 500 GB storage: $1,242.00 USDMac Mini with 32GB of RAM, 512 GB storage: $1,199.00Post changed a bit since I started replying, so:＞ For the purposes of running LLM models, a Mac MiniThe M4 Max is the one that actually gives you a shit load of memory bandwidth. If you just get a normal M4 it’s not going to be especially good at that.＞ it doesn’t have MacOSThe Mac can’t run Windows, which is used by ~75% of all desktop computer users and the main operating system that video games target. I’d say that would be the bigger problem for many.＞ Apple’s serviceWhat advantage does that get you over Framework’s service?＞ resale valueFramework resale value has proven to be excellent by the way. Go to eBay, search ”Framework Laptop”, go to ”Sold Items”. Many SKUs seem to be retaining most of their value.(Nevermind the ease of repair for the Framework, or the superior expandability. If you want to expand the disk space on an M4 you need to get sketchy parts, possibly solder things, and rescue your Mac with another Mac. For framework devices you plug in another M.2 card.)
I’m realizing that I may have misunderstood Framework’s market. I thought it was tinkerers and environmentally conscious FOSS nerds like me, but I think there maybe be a huge enterprise segment whose employees in charging of purchasing are like me but answer to much more strict business needs than ”Isn’t it cool that it comes with a screwdriver in the box?” So for example the underpowered cpu in the fw12 makes no sense to me until I found out that it’s also designed for mass purchases by schools and designed to be flung around by angsty teens. The desktop seems to be meant to be strapped to the underside of 40 identical cubicals in an office as much as it’s meant to be apparently hauled around by people that want to have CSGO lan parties.
A normal desktop with non-soldered components is more repairable, cheaper and can also run on stock Linux?The only selling point is the form factor and a massive amount of GPU memory, but a dGPU offers more raw compute.
OSS is fair.From the product page I don’t see how that mainboard is more repairable than a typical ITX one though. As far as I can tell, you also cannot change the CPU on it so even less than a typical desktop mainboard.
＞ but it doesn’t have MacOS, Apple’s service or resale value.If the purpose is running LLMs non of that matters.But Linux support is an advantage. Does the M4 have that?
＞ So for example the underpowered cpu in the fw12 makes no sense to me until I found out that it’s also designed for mass purchases by schools and designed to be flung around by angsty teens.I think that might be overstating it a bit. Real ”rugged” laptops do exist, and would be quite at home in that kind of use (well, usually you’d worry a lot more about how kids in primary school will treat your hardware than teenagers) but the Framework 12 is not one.
By buying their devices you directly support company and mission that they’re on. I’m not a diehard OSS supporter (Mac user here), but I consider buying The Framework Desktop just to support the company over, say, Dell or HP.
なぜ関係ないの？LLM使ってるからってPCのメンテや売却が不要になるわけないでしょ？Linuxコンテナはしょっちゅう使ってるし。
もっとコメントを表示（2）
そうだけど、なんでわざわざモバイルチップなの？ノートPCはわかるけど。省電力なモバイルチップをミニデスクトップに入れてしっかり冷やせば、普通のデスクトップよりずっと安定した性能が出るよ。ワークステーションみたいに使いたいけどHEDTほど性能はいらないって場合に最高だね。
Mac Miniの価格は間違ったモデル見てるよ。比較すべきはM4 Proモデルで、それだと32GB RAMオプションはないんだ。M4 Maxはもっとメモリ帯域幅が広いけど、Mac Miniには搭載されてないしね。
MacはParallelsでWindowsが普通に動くんだよ。今売ってるARMベースのWindows機より効率的だし、ARM版Windows 11のソフト互換性も今じゃ全然問題ないってわかったよ。
“頑丈な”ノートPCは学校が大量に買うには高すぎるし、わざと壊したり盗まれたりするのには強くないよ。ターゲットは建設業とか軍隊とかだし。俺が見た学校のPCは全部、一番安いものを大量に買って、壊れたら新しいのに交換してるだけだった。
Framework Desktopに使われてるStrix Haloチップは、PC界でもかなりユニークな存在だよ。16コアCPUとデスクトップ用のGPUみたいなデカいiGPU、それに128GBのRAM（GPUからもアクセス可）を組み合わせてるんだ。例えるならPS5やXboxのチップがPCにきたみたいな感じで、GPU計算やAI、小型ゲーミングにめちゃくちゃ面白いパーツだね。
静かで冷却の良いデスクトップPCは最近注目されてるよね。みんながタワーPCを必要とするわけじゃないし、Mac Miniみたいなのがいい人もいるけど、Appleエコシステムに入りたくない人もいるからね。このPCはワークステーションクラスで、Mac Studioみたいなデバイスに進化するかもね。
俺が持ってる中で一番信頼できるPCは、“一般向け”や“エンスージアスト向け”のPCなんだよね。
Strix Halo APUを使ってるから面白いんだよ。これで十分って人もいるだろうしね。
M4は395+の半分しかメモリ帯域幅ないし、あのモデルのスペックは完全にゴミだよ。M4 Pro APUでそこそこのスペックにしようと思ったら、少なくともFrameworkと同じくらいかかる、カナダだとね。
俺のPCは一度もサービスいらずだぜ。LLMの話だと、ほとんどのAIツールやツールチェーンにはLinuxが最適だよ。
AMD APUはそのままLinuxで動くんだぜ。SteamOSの携帯ゲーム機も全部AMD製だろ？
＞はんだ付けされてない部品は修理しやすいって？
それってプラットフォームの限界そのものじゃん。なんでそんなこと持ち出すんだ？ FrameworkはAMD製の部品をただデバイスに入れただけだろ。
macOSを使わなくていいってのはデカいプラスだね。箱から出してすぐに完全なLinuxサポートがあるんだから。
Framework DesktopとMacの価格・性能比較だ。Framework Desktop Max+ 395は128GB RAMで約2,147ドル。M4 Pro Mac miniはRAM少ないのに2,199ドル。M4 Max Mac Studioは128GB RAMだと3,499ドルで、メモリ帯域は速いけど高価だよ。GPUはFramework DesktopのRadeon 8060SがM4非Maxより速く、コスパも良いんだ。すごいね。
＞DellやHPじゃなく、Framework Desktopを買うのは会社を応援するため、と俺は思う。
まさにその通り！この3社の中で、core bootみたいなものをこのマシンで実現しようと試みるのは1社だけだろうね。俺はそれを応援する余裕があるんだ。
この意見には反対だね。Parallels上のWindowsはネイティブと比べて遅くてバグだらけだ。MicrosoftのAMD64エミュレータはRosettaより酷いし、Visual Studioも遅い。GPUもD3D11翻訳止まりで、VulkanやCUDAは使えない。ゲームも動かないこと多いし、ファイルシステムブリッジも問題。VMはあくまで最終手段で、日常的にWindowsを使うならネイティブ機が断然良いよ。ファンボーイはデメリットを隠しがちだけど、LinuxやmacOSでも同じことが言えるんだ。
Framework Desktopの注文をキャンセルして、HP Z2 Mini G1aを注文したんだ。Appleの傲慢さとひどいソフトウェア品質にうんざりして、Mac Studioを置き換えるのが目的だよ。HPはすごく小さくて、ECC RAMと10G Ethernetも搭載してる。ただ、かなり高価だけどね。
Appleは全体的な信頼性で確かに後退したけど、もし他の方が良いと思ってるなら…どうなるか教えてくれよ。それに、MLXプロジェクトをCUDAにデプロイできるようになったぞ。https://github.com/ml-explore/mlx/pull/1983
他のPCが同じ性能でも50%オフなら、まあ悪くないんじゃね？
最初はHPを馬鹿にしてたけど、ECC RAMがあるって聞いて興味持ったわ。見た目もいいし。
まだ馬鹿にしていいぞ。これ、本当のend-to-end ECCじゃなくて「link」ECCってやつだろ？
チップからCPUへのデータ転送しか保護しないんだよ。サーバーみたいな完全なECCとは違うってこと。RAMはStrix Haloパッケージの中に入ってるから、HPのせいじゃないけどな。
前のやつ「RAMはStrix Haloパッケージ内にある」って言ってるけど、それ違うぞ。
マザーボード上のSoCパッケージの周りにあるんだよ。
これ見ろよ: https://www.hp.com/content/dam/sites/worldwide/personal-comp…
DRAMが8個ってことは、サーバーみたいにちゃんとしたend-to-end ECCのための容量がないってことだ。
その通りだわ。HPの担当者にECCか聞いたらYESって言われたけど、link ECCと真のon-die ECCの違いを突っ込んだら、link ECCだと認めて注文キャンセルしたんだ。
Frameworkは変な5Gだけど、デュアル10G EthernetのBeelink GTR9 Proを注文したから、これからどうなるか楽しみだね。
へえ、面白いね。発送日は決まった？デュアル10Gってのは魅力だわ。
Beelink GTR9 Proの冷却性能とか、フルロード時の静かさのレビューが出たら嬉しいな。
ちょっと待って。HPとFramework DesktopのRAMって、何か違いがあるの？
いや、ないと思うな。DDR5って全部なんちゃって「ECC」みたいなもんだし、完全なECCじゃないからエラー修正とか確認できないんだよ。
AI maxesもみんな同じLPDDR5使ってるし。
多くのモバイル機器ってさ、信号の整合性のためにon-chip ECCを搭載してるんだよね…。
この定義でいくと、技術的にはRaspberry Pi 5もECC持ってるってことになるぞ！
ECCがないせいで、Framework Desktopはただの「高いおもちゃ」でしかないんだよな。
