PTT數位生活區 / PC_Shopping (個人電腦購買)

[菜單] 192GB記憶體選擇 LLM模型運算

看板PC_Shopping (個人電腦購買)作者 (狐狸怎麼叫)時間1天前 (2025/04/13 20:48), 編輯推噓33(33推 0噓 46→)
留言79則, 41人參與, 12小時前最新討論串1/1
已買/未買/已付訂金（元）：未買 預算/用途： AI 訓練用的，會用到 LLM 模型 + 多工處理，有時候會同時跑幾個容器或工 具 CPU (中央處理器)： 9950X3D MB (主機板)： PROART X870E-CREATOR WIFI RAM (記憶體)： 192or256GB記憶體 VGA (顯示卡)： RTX5090 Cooler (散熱器)： ProArt LC420 SSD (固態硬碟)： 美光T500 4TB HDD (硬碟)： PSU (電源供應器)： 1200W CHASSIS (機殼)： ProArt PA602 MONITOR (螢幕)： Mouse/KB (鼠鍵)： OS (作業系統)： 其它 (自填)： 總價 (未稅/含稅)： 幫別人問的，主要卡在DDR5插四條的穩定性，台灣好像沒看到賣一套4條的，如果選兩組48G B*2的，哪組比較推薦呢？ 因為跑模型所以穩定性最重要。 -- 喜歡閃閃發光的狐狸https://matters.news/@MapleFoxS -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.214.2.46 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1744548481.A.E08.html
→
04/13 20:49, 1天前 , 1F
這用途需要X3D嗎？
04/13 20:49, 1F
→
04/13 20:56, 1天前 , 2F
好問題，可能是摸魚的時候要用
04/13 20:56, 2F
推
04/13 20:58, 1天前 , 3F
組完還有點零頭有順便直上x3d了
04/13 20:58, 3F
推
04/13 21:00, 1天前 , 4F
Ai訓練用RAM?
04/13 21:00, 4F
推
04/13 21:03, 1天前 , 5F
跑LLM滿需要的
04/13 21:03, 5F
→
04/13 21:07, 1天前 , 6F
有種消耗預算的感覺
04/13 21:07, 6F
推
04/13 21:12, 1天前 , 7F
llm要的是vram
04/13 21:12, 7F
→
04/13 21:12, 1天前 , 8F
不過他會用到多個容器分下來ram多開一
04/13 21:12, 8F
→
04/13 21:12, 1天前 , 9F
點也好
04/13 21:12, 9F
推
04/13 21:28, 1天前 , 10F
這題我會，就是推薦那個
04/13 21:28, 10F
推
04/13 21:30, 1天前 , 11F
應該買雙電源機殼 預留插第二張
04/13 21:30, 11F
推
04/13 21:31, 1天前 , 12F
QVL感覺也都沒有 穩定性沒人敢打包票
04/13 21:31, 12F
推
04/13 21:46, 1天前 , 13F
降頻求穩定啊
04/13 21:46, 13F
→
04/13 21:48, 1天前 , 14F
怕降頻了還是不穩定
04/13 21:48, 14F
推
04/13 22:02, 1天前 , 15F
大容量記憶體好像微星的板子比較穩
04/13 22:02, 15F
→
04/13 22:02, 1天前 , 16F
林董yt常常在分享
04/13 22:02, 16F
推
04/13 22:11, 1天前 , 17F
你認真嗎.....dram頻寬差vram太多，這樣的跑
04/13 22:11, 17F
→
04/13 22:11, 1天前 , 18F
超過vram的模型還是不堪用，只有mac那種焊死
04/13 22:11, 18F
→
04/13 22:11, 1天前 , 19F
在板子上特規版的頻寬才夠看
04/13 22:11, 19F
推
04/13 22:13, 1天前 , 20F
64GB*4衝了, 再來說測試結果
04/13 22:13, 20F
推
04/13 22:19, 1天前 , 21F
現在板子好一點，但4*64要上到JEDEC都難吧
04/13 22:19, 21F
推
04/13 22:25, 1天前 , 22F
48*2比較穩
04/13 22:25, 22F
→
04/13 22:26, 1天前 , 23F
搞個魔改4090 96G吧
04/13 22:26, 23F
→
04/13 22:26, 1天前 , 24F
*48G
04/13 22:26, 24F
推
04/13 22:27, 1天前 , 25F
樓主要穩定性然後推4090魔改xd
04/13 22:27, 25F
→
04/13 22:31, 1天前 , 26F
你朋友預算多高啊 夠高乾脆上TR平台
04/13 22:31, 26F
推
04/13 22:32, 1天前 , 27F
Ada6000+256g跑70b都不順了
04/13 22:32, 27F
→
04/13 22:42, 1天前 , 28F
上TR應該還要多個10w..
04/13 22:42, 28F
推
04/13 22:44, 1天前 , 29F
3090*2跑70b路過,要跑192gb就是$$$
04/13 22:44, 29F
→
04/13 22:45, 1天前 , 30F
沒預算就NVIDIA DGX B200
04/13 22:45, 30F
推
04/13 22:53, 1天前 , 31F
這張板子不錯，晶片組也給力，唯一要挑就
04/13 22:53, 31F
→
04/13 22:53, 1天前 , 32F
是Q-release slim
04/13 22:53, 32F
→
04/13 23:35, 1天前 , 33F
可憐啊..不是容量一樣大就好
04/13 23:35, 33F
推
04/13 23:46, 1天前 , 34F
繪圖工作站 ECC Ram 單條64Gx8 路過
04/13 23:46, 34F
→
04/13 23:53, 1天前 , 35F
微星的BIOS對高容量的記憶體相容性比較
04/13 23:53, 35F
→
04/13 23:53, 1天前 , 36F
好
04/13 23:53, 36F
推
04/13 23:55, 1天前 , 37F
我美光ddr5 48gb * 4 跑ktransformer搭
04/13 23:55, 37F
→
04/13 23:55, 1天前 , 38F
9950跟3090可以穩定運行671b 2.51bit
04/13 23:55, 38F
→
04/13 23:55, 1天前 , 39F
在4 tokens/s
04/13 23:55, 39F
→
04/14 00:26, 1天前 , 40F
要RAM跑的話可能TR 4通道頻寬好一點
04/14 00:26, 40F
→
04/14 00:26, 1天前 , 41F
能接受慢慢跑是沒問題 看林董的分
04/14 00:26, 41F
→
04/14 00:26, 1天前 , 42F
享要注意顆粒 比較廠家只對特定顆粒
04/14 00:26, 42F
→
04/14 00:26, 1天前 , 43F
優化 或是只有特定顆粒能上
04/14 00:26, 43F
→
04/14 01:05, 1天前 , 44F
pc這樣成本多少啊 mac 256g要19萬
04/14 01:05, 44F
→
04/14 01:06, 1天前 , 45F
稍微估一下 pc也是接近20萬了
04/14 01:06, 45F
推
04/14 01:13, 1天前 , 46F
美光 6400 32*2套條*2（128G） 路過
04/14 01:13, 46F
→
04/14 01:13, 1天前 , 47F
能穩定
04/14 01:13, 47F
→
04/14 01:13, 1天前 , 48F
不知道5600 套條狀況如何就是
04/14 01:13, 48F
→
04/14 01:37, 1天前 , 49F
去金士頓的網站搜尋你的MB型號，可以找相關
04/14 01:37, 49F
→
04/14 01:37, 1天前 , 50F
RAM型號
04/14 01:37, 50F
→
04/14 01:45, 1天前 , 51F
4 tokens/s 串API比較快吧
04/14 01:45, 51F
推
04/14 01:48, 1天前 , 52F
就連Mac 你衝到最頂規，勉強擠出來
04/14 01:48, 52F
→
04/14 01:48, 1天前 , 53F
的Token也不到20
04/14 01:48, 53F
→
04/14 01:49, 1天前 , 54F
控好預算抓個可以接受的範圍稍微玩
04/14 01:49, 54F
→
04/14 01:49, 1天前 , 55F
一下就好了 真要做不可能用這種家用
04/14 01:49, 55F
→
04/14 01:49, 1天前 , 56F
設備跑
04/14 01:49, 56F
推
04/14 07:56, 1天前 , 57F
4090改到96G比較實在
04/14 07:56, 57F
推
04/14 10:18, 1天前 , 58F
這就窮人玩法阿
04/14 10:18, 58F
→
04/14 10:18, 1天前 , 59F
他要自己訓練LLM，串API是要訓練啥
04/14 10:18, 59F
推
04/14 10:34, 1天前 , 60F
4 token別勉強了吧
04/14 10:34, 60F
→
04/14 11:26, 23小時前 , 61F
5090拿去魔改比較實在
04/14 11:26, 61F
推
04/14 14:08, 20小時前 , 62F
5090目前無法改
04/14 14:08, 62F
推
04/14 14:36, 20小時前 , 63F
在B站有看到48＊4 6000C28套條不知道跟原
04/14 14:36, 63F
→
04/14 14:36, 20小時前 , 64F
生能差多少
04/14 14:36, 64F
→
04/14 14:47, 20小時前 , 65F
我以為要買單條192GB
04/14 14:47, 65F
推
04/14 15:01, 19小時前 , 66F
4090不是魔改只有48G嗎？
04/14 15:01, 66F
推
04/14 15:36, 19小時前 , 67F
真的不如買多一點mac mini自己串聯
04/14 15:36, 67F
推
04/14 16:35, 18小時前 , 68F
不如買張L4來玩
04/14 16:35, 68F
推
04/14 20:49, 14小時前 , 69F
第一代32核中古TR不貴
04/14 20:49, 69F
→
04/14 20:50, 14小時前 , 70F
ram上限蠻大
04/14 20:50, 70F
推
04/14 21:32, 13小時前 , 71F
我的窮人玩法，中古Z840 384G，加上
04/14 21:32, 71F
→
04/14 21:32, 13小時前 , 72F
16G顯卡，現在加買一張中古16G顯卡
04/14 21:32, 72F
→
04/14 21:33, 13小時前 , 73F
deepseek跑quantization版本，勉強
04/14 21:33, 73F
→
04/14 21:34, 13小時前 , 74F
可以動，16G中小型模型堪用，希望加
04/14 21:34, 74F
→
04/14 21:34, 13小時前 , 75F
到32甚至48G VRAM能有所提升
04/14 21:34, 75F
→
04/14 21:34, 13小時前 , 76F
不過如果要training，這些都不夠看
04/14 21:34, 76F
推
04/14 22:09, 12小時前 , 77F
記憶體超頻性要好 真的要選MSI板子 拿X8
04/14 22:09, 77F
→
04/14 22:09, 12小時前 , 78F
70E CARBON WIFI贏過不少
04/14 22:09, 78F
推
04/14 22:13, 12小時前 , 79F
四條要開機都要碰運氣了
04/14 22:13, 79F
‣ 更多 maplefoxs 的文章
文章代碼(AID): #1d-xA1u8 (PC_Shopping)
PC_Shopping 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 maplefoxs 的文章
文章代碼(AID): #1d-xA1u8 (PC_Shopping)