討論串[請益] 兩個改裝方案跑本地LLM請賜教
共 2 篇文章
首頁
上一頁
1
下一頁
尾頁

推噓0(0推 0噓 0→)留言0則,0人參與, 最新作者TameFoxx (foxx)時間6小時前 (2026/02/12 15:02), 編輯資訊
0
0
0
內容預覽:
如果你今天只打算用ollama跑. 那建議你放棄更新硬體了. 直接用網路上的API比較划算. 以oss-120B為例子. 你用現在的硬體跑估計每秒20左右吧?. 你換Pro 6000大概也才8~90每秒. 比對現在API價格. 你的Pro 6000大概要不眠不休輸出20年才可以回本. 而且這還是不考
(還有255個字)

推噓0(0推 0噓 0→)留言0則,0人參與, 最新作者newyorker54 (紐約客)時間1天前 (2026/02/11 10:34), 編輯資訊
0
0
0
內容預覽:
先說我的配備. CPU AMD RYZEN 9950. 主板 ASUS CROSSHAIR X870E HERO. RAM Kingston furry beast ddr5 5600. 32g x2. crucial pro ddr5 6000 32g x2. 共128g. ssd 美光 T500
(還有397個字)
首頁
上一頁
1
下一頁
尾頁