[選購] 輕量型Local端大語言模型(LLM)開發筆電 (內有選手)

看板nb-shopping (筆電買賣)作者 (叫我松高魂 ~~)時間3天前 (2024/07/05 11:36), 2天前編輯推噓6(7113)
留言21則, 10人參與, 14小時前最新討論串1/1
因工作需求,之後會進行本地端大語言模型相關開發, 我知道如果文本量大,或是遇到較長 Token 筆電可能還是無法負荷, 因此這台筆電的定位大概會是在 PoC 階段使用的開發機 目前有下列兩台考慮中 : 1. ROG Strix G16 i9-13980/RTX4080-12G/32G可支援到64G 2. Razer Blade 15 Advanced i7-12800/RTX3080ti-16G/32G 先不論重量及外型,基本上就是工作用 雷蛇 Blade 15 Advanced 3080ti 有 vram 16G 但記憶體最大僅支援到 32G 且 CPU 使用的是 i7 但 ROG Strix G16 用的是 4080 犧牲了一點 vram 但可以換得最大記憶體支援到 64G 跟 i9 CPU 兩者價格差不多 請問各位大大們會怎麼選啊啊啊啊啊~~~~~~ (選擇障礙中) -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.163.81.128 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/nb-shopping/M.1720150605.A.EC2.html

07/05 12:51, 3天前 , 1F
不能貼賣場連結喔~ 複製規格下來貼就
07/05 12:51, 1F

07/05 12:51, 3天前 , 2F
07/05 12:51, 2F
感謝提醒

07/05 12:52, 3天前 , 3F
然後我會選4080 擴充性大且不過時
07/05 12:52, 3F

07/05 12:54, 3天前 , 4F
除非你對重量有需求 畢竟兩者差半公斤
07/05 12:54, 4F

07/05 13:29, 3天前 , 5F
跑LLM就是VRAM先決,VRAM不夠是連跑的資
07/05 13:29, 5F

07/05 13:29, 3天前 , 6F
格都沒有,你核心再快都沒用,消費級顯卡
07/05 13:29, 6F

07/05 13:29, 3天前 , 7F
能跑個3B就要偷笑了
07/05 13:29, 7F

07/05 14:14, 3天前 , 8F
VRAM重要性遠大於其他
07/05 14:14, 8F

07/05 14:22, 3天前 , 9F
要用筆電跑ai要有雲端或外接顯卡的心理
07/05 14:22, 9F

07/05 14:22, 3天前 , 10F
準備了,vram不夠直接oom給你看
07/05 14:22, 10F

07/05 14:27, 2天前 , 11F
盡量選vram大的就對
07/05 14:27, 11F
感謝各位前輩推薦 ! ※ 編輯: sssh (118.163.81.128 臺灣), 07/05/2024 14:57:55

07/05 15:43, 2天前 , 12F
跑不動除非你用cpu去跑
07/05 15:43, 12F

07/05 16:25, 2天前 , 13F
只有中國有賣天選5 pro 4060 16GVRAM的
07/05 16:25, 13F

07/05 16:26, 2天前 , 14F
跑這個要看顯卡VRAM,至少16G起跳
07/05 16:26, 14F

07/05 17:18, 2天前 , 15F
vram 先決
07/05 17:18, 15F

07/05 17:30, 2天前 , 16F
選 vram 大的
07/05 17:30, 16F

07/05 17:46, 2天前 , 17F
筆電4060有16g vram?第一次聽說
07/05 17:46, 17F

07/05 18:27, 2天前 , 18F
我也沒看到耶,如果有16g 我會買來
07/05 18:27, 18F

07/05 18:27, 2天前 , 19F
玩看看
07/05 18:27, 19F

07/07 13:27, 1天前 , 20F
天選5pro 4060 16G淘寶貨很少 要找
07/07 13:27, 20F

07/08 00:00, 14小時前 , 21F
4060最大不是8g?
07/08 00:00, 21F
文章代碼(AID): #1cXsfDx2 (nb-shopping)
文章代碼(AID): #1cXsfDx2 (nb-shopping)