PTT數位生活區 / PC_Shopping (個人電腦購買)

[請益] AI用卡請益

看板PC_Shopping (個人電腦購買)作者 (魯到開店)時間7小時前 (2025/03/18 10:02), 2小時前編輯推噓18(18推 0噓 39→)
留言57則, 22人參與, 1小時前最新討論串1/1
大家早安大家好，最近在跑一些自用模型時，總發現顯卡的ram不夠用，有點換換病發作 ，? 原設備： CPU:12400 GPU:4070ti12g RAM:32g 電供:850W 用途就是打打lol跟星海，蠻少玩大作的，螢幕還是1080P的，大概是沒什麼遊戲壓力。 因為有辦法跑中國保固，所以最近在看一些魔改類的。 便宜： 2080ti22g 優點：便宜，CP值高 缺點：舊、慢、缺了一些精度、礦、只保1年 3090 24g 優點：CP值高 缺點：熱爆、過保、礦 貴爛： 4090 48g 優點：BIOS直上，啥都不用改，保3年，強的要死 缺點：渦輪跟戰鬥機一樣吵(滿載60分貝)、商家可能跑路、窮、窮、窮 4090 24G 優點：強、原廠在顧 缺點：旁邊有個3年保的48G、買不到、跟48G差沒多少 5090 32G 優點：更強、原廠在顧 缺點：我買不到、窮、窮、窮、窮 好像現在比較好玩的就這幾張，如果發言很新手的話，沒錯，剛玩沒多久，也沒有什麼生 產 老黃就不能出一張RAM大一點的效能差一點的卡嗎@@ 4070ti只有這個玩不了跟那個玩不了，另外想請教一下，這樣狗騎呂布應該不太影響玩AI 吧 謝謝大家 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 124.199.97.67 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1742263365.A.6E5.html
→
03/18 10:07, 7小時前 , 1F
等大船v100
03/18 10:07, 1F
好像...好像可以耶.不過這個能跑遊戲嗎
→
03/18 10:08, 7小時前 , 2F
超過16G都是貴啊 如果16G能跑
03/18 10:08, 2F
→
03/18 10:08, 7小時前 , 3F
撿張4070TiS加減用吧
03/18 10:08, 3F
最終下下策
推
03/18 10:12, 6小時前 , 4F
Project DIGIT / Mac Studio
03/18 10:12, 4F
一直有點好奇project digit的顯存到底多大，看不懂規格
推
03/18 10:18, 6小時前 , 5F
首推RTX PRO 6000
03/18 10:18, 5F
把我賣掉也買不起啊
推
03/18 10:19, 6小時前 , 6F
寄去對面升級vram？
03/18 10:19, 6F
直接去對面買，這邊買去升級價差不大
推
03/18 10:25, 6小時前 , 7F
捏一下上5090
03/18 10:25, 7F
11萬的還能想想，20萬的把我殺了
推
03/18 10:32, 6小時前 , 8F
能跑的都買不到，夢裡吧
03/18 10:32, 8F
睡覺睡覺 ※ 編輯: capcomjohnny (39.9.101.119 臺灣), 03/18/2025 10:36:54
推
03/18 10:38, 6小時前 , 9F
我現在跑LLama3.3 70B是用4090+5090
03/18 10:38, 9F
→
03/18 10:39, 6小時前 , 10F
這樣所有的Layer都可以Load到GPU上
03/18 10:39, 10F
→
03/18 10:39, 6小時前 , 11F
Q4的Quantization，還有VRAM放Context
03/18 10:39, 11F
→
03/18 10:42, 6小時前 , 12F
4090 48G捏下去最快 25K CNY
03/18 10:42, 12F
目前最大的vram了
→
03/18 10:43, 6小時前 , 13F
文字生成大概在15t/s
03/18 10:43, 13F
4090+5090太壕了
→
03/18 10:44, 6小時前 , 14F
以CP值來說最高還是二、三手的3090多張
03/18 10:44, 14F
→
03/18 10:46, 6小時前 , 15F
vram怎麼會不夠用呢，5070 12g都有人在
03/18 10:46, 15F
→
03/18 10:46, 6小時前 , 16F
吹跑AI了
03/18 10:46, 16F
吹，往死裡吹
→
03/18 10:54, 6小時前 , 17F
4070tis跑gemma3:27b跟qwq:32b推理
03/18 10:54, 17F
→
03/18 10:54, 6小時前 , 18F
結論：真心推薦直上5090
03/18 10:54, 18F
可惜買不到
→
03/18 11:07, 6小時前 , 19F
忍不住就去買最新的全 vram 筆電吧...
03/18 11:07, 19F
→
03/18 11:07, 6小時前 , 20F
但是全 vram 筆電可能無法滿足遊戲需求
03/18 11:07, 20F
→
03/18 11:09, 6小時前 , 21F
不然就是 DRAM 拉到頂... 只拉得到 256G
03/18 11:09, 21F
全vram可能還不流行，剛剛爬了一下難道是在說project digit
推
03/18 11:20, 5小時前 , 22F
fun科技有用兩張intel 770
03/18 11:20, 22F
→
03/18 11:20, 5小時前 , 23F
能跟4090差不多
03/18 11:20, 23F
等等來看一下
推
03/18 11:31, 5小時前 , 24F
32B的模型用12 16GB的顯卡應該是塞不進vram
03/18 11:31, 24F
推
03/18 12:08, 5小時前 , 25F
was
03/18 12:08, 25F
※ 編輯: capcomjohnny (1.172.131.51 臺灣), 03/18/2025 12:17:10
→
03/18 12:32, 4小時前 , 26F
不在乎速度的話，Ram上128G，用CPU跑，
03/18 12:32, 26F
→
03/18 12:32, 4小時前 , 27F
可以用90B的模型
03/18 12:32, 27F
→
03/18 12:52, 4小時前 , 28F
Project DIGIT / Mac Studio 都是統一記憶
03/18 12:52, 28F
→
03/18 12:52, 4小時前 , 29F
體，ram=vram
03/18 12:52, 29F
噢噢噢原來是這個意思，那我這樣10萬買到128g的顯存他不香嗎？
→
03/18 12:52, 4小時前 , 30F
所以上網看不少人拿Mac Studio跑AI，CP值
03/18 12:52, 30F
→
03/18 12:52, 4小時前 , 31F
很高
03/18 12:52, 31F
我連linux都不太會用QQ
→
03/18 12:54, 4小時前 , 32F
我是在等Project DIGIT，希望上市時可以買
03/18 12:54, 32F
→
03/18 12:54, 4小時前 , 33F
得到XD
03/18 12:54, 33F
推
03/18 13:02, 4小時前 , 34F
大船V100 32g也是貴到哭 看下來只有409
03/18 13:02, 34F
→
03/18 13:02, 4小時前 , 35F
0 48gb有點搞頭 但還是超貴
03/18 13:02, 35F
→
03/18 13:03, 4小時前 , 36F
4張3090除了超熱 電源穩定性也很不家
03/18 13:03, 36F
→
03/18 13:03, 4小時前 , 37F
用
03/18 13:03, 37F
我可能一個迴路還會跳電
推
03/18 13:04, 4小時前 , 38F
03/18 13:04, 38F
→
03/18 13:05, 4小時前 , 39F
有在考慮買256GB M3 ultra Mac Studio
03/18 13:05, 39F
→
03/18 13:10, 3小時前 , 40F
MAC跑AI看中國論壇跟reddit 說用開源
03/18 13:10, 40F
→
03/18 13:10, 3小時前 , 41F
的project很不方便，現在還是cuda 當道
03/18 13:10, 41F
老黃獨佔
→
03/18 13:10, 3小時前 , 42F
QQ
03/18 13:10, 42F
推
03/18 13:38, 3小時前 , 43F
intel 770玩星海跟lol沒有問題
03/18 13:38, 43F
推
03/18 14:02, 3小時前 , 44F
Mac我記得看測試速度跟顯卡比有落差
03/18 14:02, 44F
→
03/18 14:02, 3小時前 , 45F
但還是屌打一般用cpu跑
03/18 14:02, 45F
→
03/18 14:02, 3小時前 , 46F
還有超大ram可以跑比較大的模型
03/18 14:02, 46F
※ 編輯: capcomjohnny (39.9.101.119 臺灣), 03/18/2025 14:12:00
推
03/18 14:30, 2小時前 , 47F
H100
03/18 14:30, 47F
推
03/18 14:56, 2小時前 , 48F
有考慮撿二手3090嗎
03/18 14:56, 48F
推
03/18 15:22, 1小時前 , 49F
看過討論m3 ultra 跑 AI 性能接近 309
03/18 15:22, 49F
→
03/18 15:22, 1小時前 , 50F
0 把他當超大vram又省電的3090
03/18 15:22, 50F
推
03/18 15:41, 1小時前 , 51F
心臟大就2080ti22g或是4090 48g,
03/18 15:41, 51F
→
03/18 15:47, 1小時前 , 52F
貴是缺點的話m3 ultra也沒便宜多少吧
03/18 15:47, 52F
推
03/18 15:59, 1小時前 , 53F
Arc A770 可以跑沒錯，前提是你會用
03/18 15:59, 53F
→
03/18 15:59, 1小時前 , 54F
別看fun科技跑量化模型很輕鬆
03/18 15:59, 54F
→
03/18 15:59, 1小時前 , 55F
基礎配置麻煩的很，那個教學完全是在繞路
03/18 15:59, 55F
→
03/18 15:59, 1小時前 , 56F
裝ipex llm第一要件就是全用docker
03/18 15:59, 56F
→
03/18 15:59, 1小時前 , 57F
然後要定頻，不然會發現token/s不如預期
03/18 15:59, 57F
‣ 更多 capcomjohnny 的文章
文章代碼(AID): #1dsDH5Rb (PC_Shopping)
PC_Shopping 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 capcomjohnny 的文章
文章代碼(AID): #1dsDH5Rb (PC_Shopping)