PTT數位生活區 / nb-shopping (筆電買賣)

[選購] 訓練AI model筆電請益

看板nb-shopping (筆電買賣)作者 (ED)時間1月前 (2024/10/10 09:42), 編輯推噓7(7推 0噓 32→)
留言39則, 9人參與, 1月前最新討論串1/1
※ 請詳填下列重要條件! **勿填寫在與題目同一行上!** ※ 內容請填寫在>之後，不符格式者刪文 -----------以上可用ctrl+y刪除整行，或自行刪除 預算範圍：5萬上下 ①用途：可部署Llama 3 8B model ②常用軟體：平常coding會用到的IDE ①攜帶頻率：經常 ②使用場所有無插座：有 ①使用國境：台灣 ①螢幕尺寸範圍：不限 ②外觀偏好：黑、可以輕薄更好 是否 必須內建光碟機：否 補 充 項 目： 過去只有Object detection的model training經驗，但近日想直接投入做微型LLM部署的 工作內容，當然model training最終我還是會選擇在GCP/EC2那邊去做會更適合，但部署 的部分會想在筆電端進行部署，也歡迎有經驗的大大可以不吝給予小弟建議，非常感謝！ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.79.178.65 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/nb-shopping/M.1728524562.A.409.html
推
10/10 11:12, 1月前 , 1F
我也好奇這怎麼挑，GPU 和 RAM 優
10/10 11:12, 1F
→
10/10 11:12, 1月前 , 2F
先看哪個
10/10 11:12, 2F
→
10/10 11:45, 1月前 , 3F
沒什麼好挑吧？就Ram 選最大，GPU
10/10 11:45, 3F
→
10/10 11:45, 1月前 , 4F
選最強的
10/10 11:45, 4F
推
10/10 12:23, 1月前 , 5F
樓上，「優先」
10/10 12:23, 5F
推
10/10 14:06, 1月前 , 6F
推3樓 都買最好的就對了
10/10 14:06, 6F
→
10/10 14:37, 1月前 , 7F
ai顯卡尤其重要，尤其是vram 大小
10/10 14:37, 7F
→
10/10 14:38, 1月前 , 8F
ram其實還好，如果筆電ram 太小又不能
10/10 14:38, 8F
→
10/10 14:38, 1月前 , 9F
擴充，顯卡肯定不會太強
10/10 14:38, 9F
→
10/10 14:39, 1月前 , 10F
是說五萬頂多4070筆電
10/10 14:39, 10F
→
10/10 15:01, 1月前 , 11F
又不能擴充，什麼沒有優不優先選項
10/10 15:01, 11F
→
10/10 15:01, 1月前 , 12F
吧
10/10 15:01, 12F
→
10/10 15:33, 1月前 , 13F
只能預算內挑Vram最大的去做運算了
10/10 15:33, 13F
→
10/10 15:34, 1月前 , 14F
AI反而跟RAM比較沒關係
10/10 15:34, 14F
推
10/10 17:43, 1月前 , 15F
蛤？如果無法擴充的話更要考慮優先
10/10 17:43, 15F
→
10/10 17:43, 1月前 , 16F
級吧？要不我這麼問好了，把成本考
10/10 17:43, 16F
→
10/10 17:44, 1月前 , 17F
慮進來，投資 RAM 和顯卡的 CP 值
10/10 17:44, 17F
→
10/10 17:44, 1月前 , 18F
哪個高？
10/10 17:44, 18F
推
10/10 18:06, 1月前 , 19F
RAM一定選32G以上的啊
10/10 18:06, 19F
→
10/10 18:07, 1月前 , 20F
缺乏足夠RAM能做什麼開發
10/10 18:07, 20F
推
10/10 18:22, 1月前 , 21F
請問 AI 需要大量的數據訓練嗎？若
10/10 18:22, 21F
→
10/10 18:22, 1月前 , 22F
要不斷餵 data，會否就拉高 RAM 容
10/10 18:22, 22F
→
10/10 18:22, 1月前 , 23F
量與速度的要求？
10/10 18:22, 23F
→
10/10 18:43, 1月前 , 24F
顯卡VRAM沒達標你RAM再大都沒用
10/10 18:43, 24F
→
10/10 18:44, 1月前 , 25F
RAM小又不可擴的幾乎都是文書機 輕薄機
10/10 18:44, 25F
→
10/10 18:44, 1月前 , 26F
我只記得如果是產圖或者產影片的
10/10 18:44, 26F
→
10/10 18:44, 1月前 , 27F
本來就不適合用於部署AI模型
10/10 18:44, 27F
→
10/10 18:44, 1月前 , 28F
那種模型好像是用顯存去算吧?
10/10 18:44, 28F
→
10/10 20:51, 1月前 , 29F
這種需求 會不會組桌機 再買台輕薄筆電
10/10 20:51, 29F
→
10/10 20:51, 1月前 , 30F
比較划算？畢竟訓練ai也是要開好幾個小
10/10 20:51, 30F
→
10/10 20:51, 1月前 , 31F
時給他跑？
10/10 20:51, 31F
→
10/10 20:51, 1月前 , 32F
輕薄筆電遠端用的
10/10 20:51, 32F
→
10/10 21:49, 1月前 , 33F
別想了，7B 半精度都要14GB graphic
10/10 21:49, 33F
→
10/10 21:49, 1月前 , 34F
ram了
10/10 21:49, 34F
→
10/10 21:51, 1月前 , 35F
這五萬乖乖拿去買顯卡吧
10/10 21:51, 35F
→
10/10 23:55, 1月前 , 36F
看看今晚的Advancing AI有沒有
10/10 23:55, 36F
→
10/10 23:56, 1月前 , 37F
10/10 23:56, 37F
推
10/11 00:26, 1月前 , 38F
我有過和 ikox3658 大一樣的想法，
10/11 00:26, 38F
→
10/11 00:26, 1月前 , 39F
感覺還是優解
10/11 00:26, 39F
‣ 更多 bawpee 的文章
文章代碼(AID): #1d1p4IG9 (nb-shopping)
nb-shopping 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 bawpee 的文章
文章代碼(AID): #1d1p4IG9 (nb-shopping)