PTT數位生活區 / PC_Shopping (個人電腦購買)

[請益]AI大模型記憶體不足，市面上128G RAM?

看板PC_Shopping (個人電腦購買)作者 (奢望)時間11小時前 (2025/08/31 10:25), 4小時前編輯推噓35(35推 0噓 128→)
留言163則, 46人參與, 1小時前最新討論串1/1
各位前輩大家好: 老弟又又又又又來打擾大家了(真不是洗文) 是這樣的，自從我可愛的新電腦啟動組完後，經過多次嘗試(幹你的GROK 不跟我說直接下.GGUF的類型就好，讓我下載.safetensors類型，害我浪費了好多天) 然後昨天好不容易DeepSeeK V3.1 Q4版本下載完，開始要運行起來時，就給我出現: Error: 500 Internal Server Error: model requires more system memory (326.4 GiB) than is available (252.3 GiB) 就是記憶體不足，經過多番嘗試，最後只能無奈用較低版本的Q3L，想了一下後，覺得錢都在花了，要不乾脆把兩條64G換成兩條128G的，在加兩條64也有考慮，但這樣好像不太好 但是剛剛上了實價屋的網站查了一下，似乎沒有128G單條的，然後又去對岸的掏糞上查，是有的，但老弟我對這方面較不熟悉，不知道各位有甚麼推薦的品牌型號嗎? 謝謝各位 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 122.100.85.163 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1756607139.A.484.html
→
08/31 10:29, 11小時前 , 1F
你有算過即使真的跑得起來 速度比你
08/31 10:29, 1F
→
08/31 10:29, 11小時前 , 2F
可以接受嗎？
08/31 10:29, 2F
→
08/31 10:30, 11小時前 , 3F
單條128就算中國品牌也不多吧 很多能選嗎?
08/31 10:30, 3F
→
08/31 10:35, 11小時前 , 4F
好像鬼島沒啥地方賣吧
08/31 10:35, 4F
是阿 我們國內真找不到~XD ※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 10:38:27 ※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 10:38:49
推
08/31 10:49, 11小時前 , 5F
U DIMM目前顆粒最大應該就32Gb所以
08/31 10:49, 5F
→
08/31 10:49, 11小時前 , 6F
兩面最多64GB, 如果你要128那就是
08/31 10:49, 6F
→
08/31 10:49, 11小時前 , 7F
要3DS(一種可以塞兩個或以上晶片的
08/31 10:49, 7F
→
08/31 10:49, 11小時前 , 8F
技術), 成本較高所以極少廠商願意
08/31 10:49, 8F
→
08/31 10:49, 11小時前 , 9F
出這種產品,這種技術目前僅大規模
08/31 10:49, 9F
→
08/31 10:49, 11小時前 , 10F
應用server市場而已
08/31 10:49, 10F
推
08/31 10:53, 11小時前 , 11F
另一條路就是跟server一樣用x4顆粒
08/31 10:53, 11F
→
08/31 10:53, 11小時前 , 12F
（這樣可以多貼一倍的顆粒）,但一
08/31 10:53, 12F
→
08/31 10:53, 11小時前 , 13F
樣我不確定PC市場有沒有人出這種產
08/31 10:53, 13F
→
08/31 10:53, 11小時前 , 14F
品
08/31 10:53, 14F
掏糞上有看到在賣 之前FB好像也有看到介紹 但是我們國內就好像一直沒找到~那如果插4條64G是否也是能考慮的方案呢? ※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 10:55:36
→
08/31 11:00, 11小時前 , 15F
讓我想到8299董狂吹adaptive.不過這
08/31 11:00, 15F
→
08/31 11:00, 11小時前 , 16F
是笑話XD
08/31 11:00, 16F
推
08/31 11:02, 11小時前 , 17F
現在主板支援的單支DIMM上限是多少容量
08/31 11:02, 17F
奴家真的不知道~所以才上來請教各位前輩~ ※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 11:12:07
推
08/31 11:21, 10小時前 , 18F
別浪費時間搞這種
08/31 11:21, 18F
→
08/31 11:21, 10小時前 , 19F
單條DDR5現在是64G 支援度基本沒問題
08/31 11:21, 19F
→
08/31 11:22, 10小時前 , 20F
兩條就128 四條就256 但筆電型就兩條
08/31 11:22, 20F
我是台式機 上上週剛啟動完5090~組好使用中 ※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 11:24:03
→
08/31 11:24, 10小時前 , 21F
64G也是今年剛出的 沒有更高容量了
08/31 11:24, 21F
→
08/31 11:26, 10小時前 , 22F
先撇開龜速問題，想跑這麼大的模型不該用家
08/31 11:26, 22F
→
08/31 11:26, 10小時前 , 23F
用主機板，要用上伺服器用的，光記憶體插槽
08/31 11:26, 23F
→
08/31 11:26, 10小時前 , 24F
跟pcie插槽就可以多出很多條
08/31 11:26, 24F
推
08/31 11:27, 10小時前 , 25F
去用雲端...不要本地跑啦
08/31 11:27, 25F
感謝大大指教 是我想得少了~ 那請問現在彌補的方式 我若加上兩條64的可行嗎? ※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 11:28:17
→
08/31 11:28, 10小時前 , 26F
要不要試試看swap到optane來增加容量
08/31 11:28, 26F
→
08/31 11:29, 10小時前 , 27F
速度可能會降好幾倍 但至少容量夠(x
08/31 11:29, 27F
推
08/31 11:29, 10小時前 , 28F
deepseek 都忘記這個東西了 原來還有
08/31 11:29, 28F
→
08/31 11:29, 10小時前 , 29F
呼吸 爆紅一個禮拜就直接消失
08/31 11:29, 29F
推
08/31 11:31, 10小時前 , 30F
問就直上Pro WS WRX90E-SAGE SE
08/31 11:31, 30F
→
08/31 11:34, 10小時前 , 31F
900P / 905P / DC 4800X / 5800X
08/31 11:34, 31F
→
08/31 11:35, 10小時前 , 32F
買TR啊，4通道8DIMM頻寬更高
08/31 11:35, 32F
推
08/31 11:35, 10小時前 , 33F
905p還買的到嗎？
08/31 11:35, 33F
→
08/31 11:36, 10小時前 , 34F
上次新蛋300美買一個 太美了
08/31 11:36, 34F
還有 89 則推文
還有 4 段內文
→
08/31 17:44, 4小時前 , 124F
先有 256G ECC/Reg, 後來才找到 64x8...
08/31 17:44, 124F
→
08/31 17:45, 4小時前 , 125F
這條路還是難得通 # TR-39x5 + 8條RDIMM
08/31 17:45, 125F
→
08/31 17:46, 4小時前 , 126F
下一台想要 1T... 完全看不到希望的 XD
08/31 17:46, 126F
推
08/31 17:50, 4小時前 , 127F
用CPU跑量化版還得是Q4或Q8 不然輸GPU
08/31 17:50, 127F
→
08/31 17:51, 4小時前 , 128F
商用server就選TPU平台 性價比才會高
08/31 17:51, 128F
→
08/31 17:51, 4小時前 , 129F
8支128G怎麼看都超過這次拚出來的總花費
08/31 17:51, 129F
→
08/31 17:52, 4小時前 , 130F
撿二手 server 不是條好學的路...
08/31 17:52, 130F
→
08/31 17:54, 4小時前 , 131F
就算走雙Xeon的話要找得到16支64G也很難
08/31 17:54, 131F
→
08/31 17:58, 4小時前 , 132F
雙cpu之前看有人實測 tokens/s狂降 比單cpu
08/31 17:58, 132F
→
08/31 17:58, 4小時前 , 133F
還差 似乎跨cpu通信有問題 A和I 都有同樣症
08/31 17:58, 133F
→
08/31 17:58, 4小時前 , 134F
頭der樣子
08/31 17:58, 134F
→
08/31 18:05, 4小時前 , 135F
我記得雙CPU主板大多支援只插一顆吧
08/31 18:05, 135F
→
08/31 18:13, 3小時前 , 136F
只插一顆 CPU 通常不能放滿 16 支 RAM...
08/31 18:13, 136F
→
08/31 18:26, 3小時前 , 137F
目前觀察搞純cpu local ai機 硬體零件之重
08/31 18:26, 137F
→
08/31 18:26, 3小時前 , 138F
要性 從最重要der開始排：1. Ram容量（必須
08/31 18:26, 138F
→
08/31 18:26, 3小時前 , 139F
大於模型size 否則免玩）2. Ram速度 3. CPU
08/31 18:26, 139F
→
08/31 18:26, 3小時前 , 140F
核心數和時脈
08/31 18:26, 140F
推
08/31 18:59, 3小時前 , 141F
可不可以問個問題，美光128G跟金士頓64G
08/31 18:59, 141F
→
08/31 18:59, 3小時前 , 142F
效能實際上會落差很大嗎？想要高容量
08/31 18:59, 142F
→
08/31 18:59, 3小時前 , 143F
但又怕效能拉垮太多，還是體感還好?!
08/31 18:59, 143F
→
08/31 19:00, 3小時前 , 144F
你要多大的有多大的？台灣業務都可以談，只
08/31 19:00, 144F
→
08/31 19:00, 3小時前 , 145F
要你有錢
08/31 19:00, 145F
→
08/31 19:02, 3小時前 , 146F
主機板相容性：128GB單條RAM多數為伺服器專
08/31 19:02, 146F
→
08/31 19:02, 3小時前 , 147F
用，需確認主機板支援DDR4 ECC LRDIMM/RDIMM
08/31 19:02, 147F
→
08/31 19:02, 3小時前 , 148F
，普通桌機板無法安裝。
08/31 19:02, 148F
推
08/31 19:07, 3小時前 , 149F
抱歉 沒說清楚 AM5有支援到128G
08/31 19:07, 149F
→
08/31 19:07, 3小時前 , 150F
金64G 6000 30CL VS 美光128G 5600 46CL
08/31 19:07, 150F
→
08/31 19:07, 3小時前 , 151F
目前是模擬器多開，一定是選後者
08/31 19:07, 151F
→
08/31 19:07, 3小時前 , 152F
但如果以後要到臭打遊戲玩點其他的
08/31 19:07, 152F
→
08/31 19:08, 3小時前 , 153F
08/31 19:08, 153F
→
08/31 19:08, 3小時前 , 154F
會不會因為時脈等因素，後者體驗有落差
08/31 19:08, 154F
→
08/31 19:09, 3小時前 , 155F
要調吧
08/31 19:09, 155F
推
08/31 19:46, 2小時前 , 156F
rdimm一般u不能用要注意
08/31 19:46, 156F
→
08/31 19:48, 2小時前 , 157F
ryzen能用的是ecc udimm,比rdimm再
08/31 19:48, 157F
→
08/31 19:48, 2小時前 , 158F
貴一截
08/31 19:48, 158F
→
08/31 19:52, 2小時前 , 159F
另外板子也有差,am5只有大小石的板
08/31 19:52, 159F
→
08/31 19:52, 2小時前 , 160F
子有lay ecc線路,mg的花大錢買ecc
08/31 19:52, 160F
→
08/31 19:52, 2小時前 , 161F
udimm也沒用
08/31 19:52, 161F
推
08/31 20:20, 1小時前 , 162F
rdimm TR也不能用 要上TR pro
08/31 20:20, 162F
推
08/31 20:42, 1小時前 , 163F
用雲端GPU吧...
08/31 20:42, 163F
‣ 更多 Luxus 的文章
文章代碼(AID): #1eixAZI4 (PC_Shopping)
PC_Shopping 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 Luxus 的文章
文章代碼(AID): #1eixAZI4 (PC_Shopping)