PTT數位生活區 / PC_Shopping (個人電腦購買)

[請益]AI大模型記憶體不足，市面上128G RAM?

看板PC_Shopping (個人電腦購買)作者 (奢望)時間10月前 (2025/08/31 10:25), 10月前編輯推噓51(54推 3噓 191→)
留言248則, 55人參與, 10月前最新討論串1/1
各位前輩大家好: 老弟又又又又又來打擾大家了(真不是洗文) 是這樣的，自從我可愛的新電腦啟動組完後，經過多次嘗試(幹你的GROK 不跟我說直接下.GGUF的類型就好，讓我下載.safetensors類型，害我浪費了好多天) 然後昨天好不容易DeepSeeK V3.1 Q4版本下載完，開始要運行起來時，就給我出現: Error: 500 Internal Server Error: model requires more system memory (326.4 GiB) than is available (252.3 GiB) 就是記憶體不足，經過多番嘗試，最後只能無奈用較低版本的Q3L，想了一下後，覺得錢都在花了，要不乾脆把兩條64G換成兩條128G的，在加兩條64也有考慮，但這樣好像不太好 但是剛剛上了實價屋的網站查了一下，似乎沒有128G單條的，然後又去對岸的掏糞上查，是有的，但老弟我對這方面較不熟悉，不知道各位有甚麼推薦的品牌型號嗎? 謝謝各位 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 122.100.85.163 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1756607139.A.484.html
→
08/31 10:29, 10月前 , 1F
你有算過即使真的跑得起來 速度比你
08/31 10:29, 1F
→
08/31 10:29, 10月前 , 2F
可以接受嗎？
08/31 10:29, 2F
→
08/31 10:30, 10月前 , 3F
單條128就算中國品牌也不多吧 很多能選嗎?
08/31 10:30, 3F
→
08/31 10:35, 10月前 , 4F
好像鬼島沒啥地方賣吧
08/31 10:35, 4F
是阿 我們國內真找不到~XD ※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 10:38:27 ※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 10:38:49
推
08/31 10:49, 10月前 , 5F
U DIMM目前顆粒最大應該就32Gb所以
08/31 10:49, 5F
→
08/31 10:49, 10月前 , 6F
兩面最多64GB, 如果你要128那就是
08/31 10:49, 6F
→
08/31 10:49, 10月前 , 7F
要3DS(一種可以塞兩個或以上晶片的
08/31 10:49, 7F
→
08/31 10:49, 10月前 , 8F
技術), 成本較高所以極少廠商願意
08/31 10:49, 8F
→
08/31 10:49, 10月前 , 9F
出這種產品,這種技術目前僅大規模
08/31 10:49, 9F
→
08/31 10:49, 10月前 , 10F
應用server市場而已
08/31 10:49, 10F
推
08/31 10:53, 10月前 , 11F
另一條路就是跟server一樣用x4顆粒
08/31 10:53, 11F
→
08/31 10:53, 10月前 , 12F
（這樣可以多貼一倍的顆粒）,但一
08/31 10:53, 12F
→
08/31 10:53, 10月前 , 13F
樣我不確定PC市場有沒有人出這種產
08/31 10:53, 13F
→
08/31 10:53, 10月前 , 14F
品
08/31 10:53, 14F
掏糞上有看到在賣 之前FB好像也有看到介紹 但是我們國內就好像一直沒找到~那如果插4條64G是否也是能考慮的方案呢? ※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 10:55:36
→
08/31 11:00, 10月前 , 15F
讓我想到8299董狂吹adaptive.不過這
08/31 11:00, 15F
→
08/31 11:00, 10月前 , 16F
是笑話XD
08/31 11:00, 16F
推
08/31 11:02, 10月前 , 17F
現在主板支援的單支DIMM上限是多少容量
08/31 11:02, 17F
奴家真的不知道~所以才上來請教各位前輩~ ※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 11:12:07
推
08/31 11:21, 10月前 , 18F
別浪費時間搞這種
08/31 11:21, 18F
→
08/31 11:21, 10月前 , 19F
單條DDR5現在是64G 支援度基本沒問題
08/31 11:21, 19F
→
08/31 11:22, 10月前 , 20F
兩條就128 四條就256 但筆電型就兩條
08/31 11:22, 20F
我是台式機 上上週剛啟動完5090~組好使用中 ※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 11:24:03
→
08/31 11:24, 10月前 , 21F
64G也是今年剛出的 沒有更高容量了
08/31 11:24, 21F
→
08/31 11:26, 10月前 , 22F
先撇開龜速問題，想跑這麼大的模型不該用家
08/31 11:26, 22F
→
08/31 11:26, 10月前 , 23F
用主機板，要用上伺服器用的，光記憶體插槽
08/31 11:26, 23F
→
08/31 11:26, 10月前 , 24F
跟pcie插槽就可以多出很多條
08/31 11:26, 24F
推
08/31 11:27, 10月前 , 25F
去用雲端...不要本地跑啦
08/31 11:27, 25F
感謝大大指教 是我想得少了~ 那請問現在彌補的方式 我若加上兩條64的可行嗎? ※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 11:28:17
→
08/31 11:28, 10月前 , 26F
要不要試試看swap到optane來增加容量
08/31 11:28, 26F
→
08/31 11:29, 10月前 , 27F
速度可能會降好幾倍 但至少容量夠(x
08/31 11:29, 27F
推
08/31 11:29, 10月前 , 28F
deepseek 都忘記這個東西了 原來還有
08/31 11:29, 28F
→
08/31 11:29, 10月前 , 29F
呼吸 爆紅一個禮拜就直接消失
08/31 11:29, 29F
推
08/31 11:31, 10月前 , 30F
問就直上Pro WS WRX90E-SAGE SE
08/31 11:31, 30F
→
08/31 11:34, 10月前 , 31F
900P / 905P / DC 4800X / 5800X
08/31 11:34, 31F
→
08/31 11:35, 10月前 , 32F
買TR啊，4通道8DIMM頻寬更高
08/31 11:35, 32F
推
08/31 11:35, 10月前 , 33F
905p還買的到嗎？
08/31 11:35, 33F
→
08/31 11:36, 10月前 , 34F
上次新蛋300美買一個 太美了
08/31 11:36, 34F
還有 175 則推文
還有 6 段內文
→
08/31 23:49, 10月前 , 210F
不是說單條64 128 抱歉
08/31 23:49, 210F
→
08/31 23:56, 10月前 , 211F
但是671B用CPU跑還要reasoning解出
08/31 23:56, 211F
→
08/31 23:56, 10月前 , 212F
題目可能要花個半天了吧
08/31 23:56, 212F
→
08/31 23:59, 10月前 , 213F
大容量ram開機很慢的 進BIOS開
08/31 23:59, 213F
→
08/31 23:59, 10月前 , 214F
memory context restore
08/31 23:59, 214F
推
09/01 00:21, 10月前 , 215F
本地還是會限制啊 還是你要fine tune
09/01 00:21, 215F
→
09/01 00:21, 10月前 , 216F
用你的桌機？？
09/01 00:21, 216F
推
09/01 01:51, 10月前 , 217F
本地才有辦法不被限制
09/01 01:51, 217F
推
09/01 03:07, 10月前 , 218F
09/01 03:07, 218F
→
09/01 03:07, 10月前 , 219F
HHOWfs
09/01 03:07, 219F
推
09/01 04:43, 10月前 , 220F
V3.1就是個過渡模型 一樣有思考鏈過長的
09/01 04:43, 220F
→
09/01 04:43, 10月前 , 221F
問題 搭配token數不高的硬體你會等到天
09/01 04:43, 221F
→
09/01 04:43, 10月前 , 222F
荒地老，確定要為個過渡模型花大錢?
09/01 04:43, 222F
→
09/01 06:46, 10月前 , 223F
ECC udimm 比 ECC rdimm 便宜啊?!
09/01 06:46, 223F
→
09/01 08:09, 10月前 , 224F
udimm買新的比較便宜,撿垃圾的話比
09/01 08:09, 224F
→
09/01 08:09, 10月前 , 225F
較貴,大概是server用量比rdimm少吧
09/01 08:09, 225F
推
09/01 09:21, 10月前 , 226F
太折騰了
09/01 09:21, 226F
推
09/01 09:21, 10月前 , 227F
開memory context restore之後，MT6000變
09/01 09:21, 227F
→
09/01 09:21, 10月前 , 228F
成3600...
09/01 09:21, 228F
→
09/01 10:26, 10月前 , 229F
64GB*4=
09/01 10:26, 229F
※ 編輯: Luxus (220.129.195.119 臺灣), 09/01/2025 11:19:26
推
09/01 23:20, 10月前 , 230F
放棄吧gpu你買不起，cpu就算讓你順利執行
09/01 23:20, 230F
→
09/01 23:20, 10月前 , 231F
了，一個字會耗你好幾秒才會出來，光是開
09/01 23:20, 231F
→
09/01 23:20, 10月前 , 232F
始可能就要三分鐘，人家上百萬不是花假的
09/01 23:20, 232F
→
09/01 23:20, 10月前 , 233F
，光是16gb的模型cpu就跑不太動了,更何況
09/01 23:20, 233F
→
09/01 23:20, 10月前 , 234F
上百gb
09/01 23:20, 234F
推
09/01 23:52, 10月前 , 235F
macOS這次更新不知為啥也不能跑gpt1
09/01 23:52, 235F
→
09/01 23:52, 10月前 , 236F
20b
09/01 23:52, 236F
→
09/01 23:54, 10月前 , 237F
倒是Apple自己有推出model了
09/01 23:54, 237F
推
09/02 14:59, 10月前 , 238F
要跑大模型最划算的是買Mac，用統一記憶體
09/02 14:59, 238F
→
09/02 14:59, 10月前 , 239F
跑GPU
09/02 14:59, 239F
→
09/02 14:59, 10月前 , 240F
別用PC了，你插RAM再多也只能用很有慢慢跑
09/02 14:59, 240F
→
09/02 14:59, 10月前 , 241F
，VRAM夠大的卡普通人買得起也叫不到貨
09/02 14:59, 241F
→
09/02 14:59, 10月前 , 242F
反而臭得要死的Mac變成local大模型最划算的
09/02 14:59, 242F
→
09/02 14:59, 10月前 , 243F
選擇
09/02 14:59, 243F
→
09/03 08:06, 10月前 , 244F
Mac studio 點上去三十萬不夠, 差不多慘.
09/03 08:06, 244F
→
09/03 08:07, 10月前 , 245F
但是難產的 DGX spark 也是十幾萬...
09/03 08:07, 245F
→
09/03 08:07, 10月前 , 246F
跟 AMD AI MAX 395 頂筆電差不多... 囧
09/03 08:07, 246F
→
09/03 08:27, 10月前 , 247F
這三家不知道最後到底哪個會比較好用...
09/03 08:27, 247F
推
09/04 17:39, 10月前 , 248F
又不是7*24在訓練 真要搞就租H200
09/04 17:39, 248F
‣ 更多 Luxus 的文章
文章代碼(AID): #1eixAZI4 (PC_Shopping)
PC_Shopping 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 Luxus 的文章
文章代碼(AID): #1eixAZI4 (PC_Shopping)