[請益] AMD395+跑AI到底合不合適呢

看板PC_Shopping (個人電腦購買)作者 (ccmail)時間2小時前 (2025/08/13 18:07), 編輯推噓5(5016)
留言21則, 8人參與, 2小時前最新討論串1/1
看到AI大熱 本來想說買一張5060TI 16G 換掉3060TI(I5 11400 32G) 來當自以雲端AI伺服機,可是雖然5060TI 夠強 但記憶體就16G 似乎20B都不能跑 但感覺要長期開又很熱 之前對岸395 配128G 感覺又太多 本身能跑 但是跑不動 最近在看 又看到 极摩客极摩客EVO X2特價阿 64G版本 1T+2T 不用五萬 感覺好超值 突然覺得有CP值了 大概模型大小可以大個1.5~1.6倍 請問AMD 跑AI 有經驗的各位可以分享嗎 手好養阿 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.171.22.86 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1755079669.A.9F8.html

08/13 18:14, 2小時前 , 1F
沒用過,是聽說GPU的DDR7速度比較快,這
08/13 18:14, 1F

08/13 18:14, 2小時前 , 2F
種共用、統一記憶體的應該是DDR5?適合大
08/13 18:14, 2F

08/13 18:15, 2小時前 , 3F
參數模型,但相對GPU計算速度是慢了點
08/13 18:15, 3F

08/13 18:18, 2小時前 , 4F
395好像比較適合LLM
08/13 18:18, 4F

08/13 18:18, 2小時前 , 5F
lpddr5x,大模型好,像之前gpt-oss-120b...
08/13 18:18, 5F

08/13 18:19, 2小時前 , 6F
不過 gpt 扔出來體驗跟之前的不一樣...
08/13 18:19, 6F

08/13 18:19, 2小時前 , 7F
不建議,395現在只有BETA驅動+平台
08/13 18:19, 7F

08/13 18:21, 2小時前 , 8F
然後記憶頻寬不知道為何實測只有理論
08/13 18:21, 8F

08/13 18:21, 2小時前 , 9F
的一半
08/13 18:21, 9F

08/13 18:33, 2小時前 , 10F
395就是一個只有記憶體容量大的東西而已,3
08/13 18:33, 10F

08/13 18:33, 2小時前 , 11F
85還比較均衡一點
08/13 18:33, 11F

08/13 18:35, 2小時前 , 12F
一點都不超值,偏貴,但它是你目前除了Mac m
08/13 18:35, 12F

08/13 18:35, 2小時前 , 13F
ini/studio外跑同時多個中小型或一個稍大一
08/13 18:35, 13F

08/13 18:35, 2小時前 , 14F
點的MOE模型的選擇
08/13 18:35, 14F

08/13 18:36, 2小時前 , 15F
LLM可以,跑圖影很勉強
08/13 18:36, 15F

08/13 18:36, 2小時前 , 16F
我前面說過了395+只適合學校批量採購讓學
08/13 18:36, 16F

08/13 18:36, 2小時前 , 17F
生做作業。什麼用途都能用,都不快,生產
08/13 18:36, 17F

08/13 18:36, 2小時前 , 18F
力幾乎等於零。32+96有些模型進去會閃退
08/13 18:36, 18F

08/13 18:39, 2小時前 , 19F
總之就是偏貴+頻寬不夠大,amd的原生roc支援
08/13 18:39, 19F

08/13 18:39, 2小時前 , 20F
跟垃圾一樣,就賣你一個amd之後修好roc問題
08/13 18:39, 20F

08/13 18:39, 2小時前 , 21F
後可能會變快的夢想
08/13 18:39, 21F
文章代碼(AID): #1ed6Frdu (PC_Shopping)
文章代碼(AID): #1ed6Frdu (PC_Shopping)