PTT數位生活區 / PC_Shopping (個人電腦購買)

[閒聊] M2Ultra在AI比intel+nVIDIA有架構優勢?

看板PC_Shopping (個人電腦購買)作者 ((0_ 0))時間2年前 (2023/07/01 17:17), 編輯推噓48(57推 9噓 189→)
留言255則, 62人參與, 最新討論串1/2 (看更多)
先說我不懂AI運算 只是看了林亦的新影片 https://youtu.be/UsfmqTb2NVY
不想點的，說個大概 意思是 由於M2 Ultra的記憶體是CPU與GPU共用 而且GPU調取記憶體沒啥限制(? 等於有著超大容量和高速頻寬的顯存 對比的是i9 12900+3080TI 中間跑什麼運算什麼訓練，我是不懂 但他的結論、標題 都表明Mac PRO具有極高性價比(他是說最高 可是這套方案要30萬欸 他更是呼籲老黃要出大容量的顯卡 如果蘋果是真的有這麼大優勢 會影響未來PC遊戲卡迭代速度嗎? -- 「我看不到」 「欸 我真的看不到」 「 」 「我還是什麼都看不到啊...」 「我看不到我看不到我看不到!」 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.253.194.31 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1688203055.A.F59.html
→
07/01 17:19, 2年前 , 1F
沒生態你要用什麼跑？手刻API嗎
07/01 17:19, 1F
→
07/01 17:22, 2年前 , 2F
又在吹蘋果,不累嗎
07/01 17:22, 2F
→
07/01 17:23, 2年前 , 3F
林亦當然是吹，我關心的是PC卡會不會影響
07/01 17:23, 3F
推
07/01 17:27, 2年前 , 4F
不影響 end
07/01 17:27, 4F
推
07/01 17:35, 2年前 , 5F
你如果連他吹的用途都看不懂的話，那換句
07/01 17:35, 5F
→
07/01 17:35, 2年前 , 6F
話說。兩個沒交集的領域要怎麼影響
07/01 17:35, 6F
推
07/01 17:37, 2年前 , 7F
問題兩邊GPU性能差多少，花同樣的錢可以
07/01 17:37, 7F
→
07/01 17:37, 2年前 , 8F
買到等級不低的運算卡了吧
07/01 17:37, 8F
→
07/01 17:38, 2年前 , 9F
3080Ti一張也才多少怎麼會拿來比？
07/01 17:38, 9F
→
07/01 17:39, 2年前 , 10F
只比硬體你拿AMD不是更便宜
07/01 17:39, 10F
推
07/01 17:41, 2年前 , 11F
3080ti回血阿
07/01 17:41, 11F
→
07/01 17:46, 2年前 , 12F
互不影響 遊戲卡要的是運算 AI要的
07/01 17:46, 12F
→
07/01 17:46, 2年前 , 13F
是大容量跟傳輸帶寬 前面展示的大容
07/01 17:46, 13F
→
07/01 17:46, 2年前 , 14F
量帶來得訓練優勢 後面展示大語言模
07/01 17:46, 14F
→
07/01 17:46, 2年前 , 15F
型在local執行的能力
07/01 17:46, 15F
→
07/01 17:47, 2年前 , 16F
說可以抵8張主要是拿顯存放模型
07/01 17:47, 16F
→
07/01 17:47, 2年前 , 17F
跟需不需要那些算力沒直接關係
07/01 17:47, 17F
→
07/01 17:48, 2年前 , 18F
你花30萬都已經能買到a100了，好歹也拿
07/01 17:48, 18F
→
07/01 17:48, 2年前 , 19F
價格近似的東西來比吧
07/01 17:48, 19F
推
07/01 17:50, 2年前 , 20F
老黃的大顯存是資料中心的專業卡
07/01 17:50, 20F
→
07/01 17:50, 2年前 , 21F
民用想要的是大顯存的遊戲卡兼學習
07/01 17:50, 21F
推
07/01 17:52, 2年前 , 22F
老黃又不是傻子，為什麼要出大容量的
07/01 17:52, 22F
→
07/01 17:52, 2年前 , 23F
顯示卡，蘋果這個能算的模型又不多
07/01 17:52, 23F
推
07/01 17:53, 2年前 , 24F
但目前的務實之選是…接人家現成的
07/01 17:53, 24F
→
07/01 17:54, 2年前 , 25F
能玩的遊戲也少，看不出有什麼競爭力
07/01 17:54, 25F
→
07/01 17:54, 2年前 , 26F
所以大容量並不是遊戲卡和計算卡共同方向
07/01 17:54, 26F
→
07/01 17:55, 2年前 , 27F
還以為計算卡被打擊，遊戲卡也會間接受益
07/01 17:55, 27F
→
07/01 17:56, 2年前 , 28F
因為看到這代頻寬開砍有點傻眼
07/01 17:56, 28F
→
07/01 17:57, 2年前 , 29F
價格漲上那麼多規格還有倒退嚕的喔
07/01 17:57, 29F
推
07/01 18:00, 2年前 , 30F
SoC在記憶體頻寬上絕對有優勢
07/01 18:00, 30F
→
07/01 18:00, 2年前 , 31F
但Core ML的生態系太疲軟了
07/01 18:00, 31F
推
07/01 18:01, 2年前 , 32F
先要有人要支援
07/01 18:01, 32F
推
07/01 18:02, 2年前 , 33F
繪圖卡的強項是渲染和成像，這塊才是
07/01 18:02, 33F
→
07/01 18:02, 2年前 , 34F
老黃最大的護城河
07/01 18:02, 34F
→
07/01 18:12, 2年前 , 35F
30萬比12900+3080ti？
07/01 18:12, 35F
→
07/01 18:14, 2年前 , 36F
不過蘋果M2的確是workstation上cp好
07/01 18:14, 36F
→
07/01 18:14, 2年前 , 37F
如果有軟體支援，M2目前的確是性價比最
07/01 18:14, 37F
→
07/01 18:17, 2年前 , 38F
不過沒人會拿顯卡跑訓練吧= =
07/01 18:17, 38F
→
07/01 18:19, 2年前 , 39F
一張3080不夠強你能上兩張啊
07/01 18:19, 39F
還有 176 則推文
推
07/02 17:36, 2年前 , 216F
跑模型還需要Compiler 和Runtime 捏
07/02 17:36, 216F
→
07/02 17:36, 2年前 , 217F
CUDA做了一堆事…
07/02 17:36, 217F
推
07/02 21:47, 2年前 , 218F
先做一個可以過濾雜訊的AI演算法，不
07/02 21:47, 218F
→
07/02 21:48, 2年前 , 219F
然記憶體一直肥大
07/02 21:48, 219F
→
07/02 21:50, 2年前 , 220F
說30萬怎麼不去買A100的大概也覺得只
07/02 21:50, 220F
→
07/02 21:50, 2年前 , 221F
要有A100 CPU 主機 電源什麼都不用的
07/02 21:50, 221F
→
07/02 21:50, 2年前 , 222F
就可以開始算了 大概對要買到可以開機
07/02 21:50, 222F
→
07/02 21:50, 2年前 , 223F
要花多少錢沒什麼概念
07/02 21:50, 223F
推
07/02 22:42, 2年前 , 224F
只關心到移動端AI的發展，一體化架
07/02 22:42, 224F
→
07/02 22:42, 2年前 , 225F
構應該有優勢
07/02 22:42, 225F
→
07/02 22:48, 2年前 , 226F
這個在B站被噴翻欸= =
07/02 22:48, 226F
噓
07/02 23:14, 2年前 , 227F
他這就尼可以在mac上跑自己的聊天機
07/02 23:14, 227F
→
07/02 23:14, 2年前 , 228F
器人跟stabel diffusion 其他傳統的
07/02 23:14, 228F
→
07/02 23:14, 2年前 , 229F
沒人搞就沒有
07/02 23:14, 229F
推
07/03 05:55, 2年前 , 230F
他SD就能跑而已，但是跑得很慢
07/03 05:55, 230F
→
07/03 05:55, 2年前 , 231F
還不如買一塊3090來跑效益比較好
07/03 05:55, 231F
推
07/03 09:05, 2年前 , 232F
沒有優勢。蘋果自己生態內很強。生態外就是
07/03 09:05, 232F
→
07/03 09:05, 2年前 , 233F
廢物
07/03 09:05, 233F
→
07/03 09:06, 2年前 , 234F
語音創作可以用蘋果
07/03 09:06, 234F
→
07/03 09:06, 2年前 , 235F
其他最好先研究能不能跑再說
07/03 09:06, 235F
→
07/03 09:12, 2年前 , 236F
主要是頻寬夠然後Ram又能自由調度，
07/03 09:12, 236F
→
07/03 09:12, 2年前 , 237F
但是這比較偏個人跟小工作室自己玩確
07/03 09:12, 237F
→
07/03 09:12, 2年前 , 238F
實CP值超高，但運算卡不是拿來擺好看
07/03 09:12, 238F
→
07/03 09:12, 2年前 , 239F
的，真的要企業用還是需要運算卡，只
07/03 09:12, 239F
→
07/03 09:12, 2年前 , 240F
是怕老黃刀法又多切一個民用AI區間
07/03 09:12, 240F
噓
07/03 10:49, 2年前 , 241F
林亦這種垃圾片沒人噓？
07/03 10:49, 241F
推
07/03 11:07, 2年前 , 242F
個人不適合 光debug就飽了……
07/03 11:07, 242F
噓
07/03 11:14, 2年前 , 243F
喔 挖鼻
07/03 11:14, 243F
推
07/03 11:19, 2年前 , 244F
買A100/H100就好了，工具是快且好用，不是
07/03 11:19, 244F
→
07/03 11:20, 2年前 , 245F
開車上路前先造車修車
07/03 11:20, 245F
推
07/03 16:29, 2年前 , 246F
啊這就家用思維和商用思維的差異。
07/03 16:29, 246F
→
07/03 16:29, 2年前 , 247F
在家自己研究跑來玩的當然買台MacBook pr
07/03 16:29, 247F
→
07/03 16:29, 2年前 , 248F
o能跑速度可以接受就好，PyTorch裝上去就
07/03 16:29, 248F
→
07/03 16:29, 2年前 , 249F
直接可以跑也不用在那邊跟CUDA安裝奮戰。
07/03 16:29, 249F
→
07/03 16:29, 2年前 , 250F
至於買studio跑大模型…我還沒自閉到要跟
07/03 16:29, 250F
→
07/03 16:29, 2年前 , 251F
AI聊天，除非你工作上需要調教大模型
07/03 16:29, 251F
推
07/06 12:50, , 252F
對岸連A800都沒辦法買，一般要在本地端
07/06 12:50, 252F
→
07/06 12:50, , 253F
跑只剩RTX 6000 Ada跟RTX 4090，M2 Ul
07/06 12:50, 253F
→
07/06 12:50, , 254F
tra出現給了可以在本地端跑大模型機會
07/06 12:50, 254F
→
07/06 12:50, , 255F
！
07/06 12:50, 255F
‣ 更多 hugh509 的文章
文章代碼(AID): #1ad-ylzP (PC_Shopping)
PC_Shopping 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 hugh509 的文章
文章代碼(AID): #1ad-ylzP (PC_Shopping)