PTT數位生活區 / PC_Shopping (個人電腦購買)

[閒聊] 現在橫空出世的NPU

看板PC_Shopping (個人電腦購買)作者 (我討厭人類)時間2年前 (2023/12/27 16:44), 2年前編輯推噓16(16推 0噓 54→)
留言70則, 27人參與, 2年前最新討論串1/3 (看更多)
為了因應即將到來的AI時代, 各家CPU廠開始在CPU裡面加入NPU, 即神經網路處理器 這邊已有一篇評測 https://www.youtube.com/watch?v=cN_bm3jT5VI
以這個評測為例, 讓我有點霧裡看花, 不是很能明白: Intel Ultra 7 155H CPU分數 67 GPU分數 413 NPU分數 282 嗯....這NPU看起來沒比較厲害? 所以我的疑問就是: 1. NPU 表現還不如 GPU, 這也許可以理解為最佳化還沒到位, 不過即使未來能小贏, 為什麼不拿去做GPU就算了, 還可以增加3D性能。 2. NPU 能執行通用計算嗎? 如果可以, NPU 只是神經網路運算特化 的 GPU? 3. 如何調用 NPU? 是視為 OpenCL / DirectML 裝置? 還是又整出新的方法跟API了? 又或只是在GPU下的子集? (調用核顯運算時指示調用NPU?) 有沒有正在行內的說說看吧... ----- 未來五年可能漸漸開始沒人要比x86性能, 改比NPU性能了... -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.169.11.48 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1703666680.A.127.html ※ 編輯: wahaha99 (118.169.11.48 臺灣), 12/27/2023 16:47:57
→
12/27 16:53, 2年前 , 1F
類似說桌上型處理器可以直接用CPU算
12/27 16:53, 1F
→
12/27 16:53, 2年前 , 2F
但行動裝置會太耗電所以設計專用電路
12/27 16:53, 2F
→
12/27 16:58, 2年前 , 3F
asic拼的就能耗比 除非規模堆到超大 不
12/27 16:58, 3F
→
12/27 16:58, 2年前 , 4F
然輸GPU 也還好吧
12/27 16:58, 4F
確實 要等NPU的每瓦性能出來才知道 不過類神經網路也是百百種 應該不會是ASIC這麼沒彈性的做法吧 ※ 編輯: wahaha99 (118.169.11.48 臺灣), 12/27/2023 17:00:31
→
12/27 17:00, 2年前 , 5F
相容性87%靠one api去處理吧 牙膏養一
12/27 17:00, 5F
→
12/27 17:00, 2年前 , 6F
堆人做one api不是養假的
12/27 17:00, 6F
→
12/27 17:06, 2年前 , 7F
牙膏的npu 居然是有支援fp16的 本來以為
12/27 17:06, 7F
→
12/27 17:06, 2年前 , 8F
只有到int8的 ASIC
12/27 17:06, 8F
→
12/27 17:09, 2年前 , 9F
fp16一定要的吧 int8跑AI應該很BI
12/27 17:09, 9F
推
12/27 17:17, 2年前 , 10F
看起來問題會是桌上型真的需要這東西嗎
12/27 17:17, 10F
→
12/27 17:18, 2年前 , 11F
目前看起來煮戰場會是筆電跟平板，看微軟
12/27 17:18, 11F
→
12/27 17:18, 2年前 , 12F
之後的動向了
12/27 17:18, 12F
→
12/27 17:19, 2年前 , 13F
如果AI服務成為標配,那桌上型肯定也要啊
12/27 17:19, 13F
→
12/27 17:21, 2年前 , 14F
尤其是沒獨顯的系統
12/27 17:21, 14F
推
12/27 17:28, 2年前 , 15F
因為微軟想推廣copilot，所以一定要有
12/27 17:28, 15F
→
12/27 17:28, 2年前 , 16F
NPU
12/27 17:28, 16F
推
12/27 17:33, 2年前 , 17F
以後說不定玩lol可以離線全AI隊友了
12/27 17:33, 17F
→
12/27 17:34, 2年前 , 18F
全隨機中路 本地電腦運算AI控制隊友
12/27 17:34, 18F
推
12/27 17:34, 2年前 , 19F
實際上MTL上面的應該叫VPU，並不是專
12/27 17:34, 19F
→
12/27 17:34, 2年前 , 20F
門拿來加速LLM的推論，所以只是堪用程
12/27 17:34, 20F
→
12/27 17:34, 2年前 , 21F
度，真正的NPU要等ARL
12/27 17:34, 21F
→
12/27 17:35, 2年前 , 22F
星海爭霸3搞不好也不用微操 每個都AI算
12/27 17:35, 22F
推
12/27 17:44, 2年前 , 23F
炒股用的話術 1-2個月就消風啦
12/27 17:44, 23F
→
12/27 17:46, 2年前 , 24F
但能把 宏碁 華碩這些帶到突破幾十年的新高也
12/27 17:46, 24F
→
12/27 17:46, 2年前 , 25F
是很利害
12/27 17:46, 25F
→
12/27 17:55, 2年前 , 26F
你先會用再來說吧
12/27 17:55, 26F
推
12/27 17:56, 2年前 , 27F
應該是軟體要優化吧，等於arm64又
12/27 17:56, 27F
→
12/27 17:56, 2年前 , 28F
多了類神經
12/27 17:56, 28F
→
12/27 17:57, 2年前 , 29F
這華碩年前就在手機做過了
12/27 17:57, 29F
→
12/27 17:58, 2年前 , 30F
現在還不成熟，之後再看吧
12/27 17:58, 30F
→
12/27 18:01, 2年前 , 31F
未來說不定會出現AI小畫家，可以自動
12/27 18:01, 31F
→
12/27 18:01, 2年前 , 32F
摳圖、調色。
12/27 18:01, 32F
推
12/27 18:03, 2年前 , 33F
如果把這個 NPU 設計成插 PCI-E會有市場嗎
12/27 18:03, 33F
→
12/27 18:25, 2年前 , 34F
已經有自動摳圖了
12/27 18:25, 34F
→
12/27 19:12, 2年前 , 35F
可以參考一下 apple 的a系列跟m系列怎麼用的
12/27 19:12, 35F
→
12/27 19:16, 2年前 , 36F
特化計算阿，而且應該是CPU+GPU+NPU混
12/27 19:16, 36F
→
12/27 19:16, 2年前 , 37F
合計算，微軟的DirectML團隊應該正在忙
12/27 19:16, 37F
→
12/27 19:16, 2年前 , 38F
這些事
12/27 19:16, 38F
推
12/27 19:16, 2年前 , 39F
Pcie的不就是tensor tpu嗎
12/27 19:16, 39F
→
12/27 19:18, 2年前 , 40F
當然沒像npu那麼通用就是了
12/27 19:18, 40F
推
12/27 20:21, 2年前 , 41F
先有實際應用面再來討論效能也還來得及
12/27 20:21, 41F
→
12/27 20:23, 2年前 , 42F
目前生成式AI那麼夯哪沒有實用面
12/27 20:23, 42F
推
12/27 22:46, 2年前 , 43F
他能做的顯卡都能做，只是能耗問題
12/27 22:46, 43F
→
12/27 22:46, 2年前 , 44F
還有是否最佳化過。要是你用4090，
12/27 22:46, 44F
→
12/27 22:46, 2年前 , 45F
npu還是無法贏過那是當然。相較之
12/27 22:46, 45F
→
12/27 22:46, 2年前 , 46F
下筆電上的npu會更加實用。能耗問
12/27 22:46, 46F
→
12/27 22:46, 2年前 , 47F
題
12/27 22:46, 47F
推
12/27 22:47, 2年前 , 48F
剛起步 而且還有等未來微軟Win12的要求標準
12/27 22:47, 48F
→
12/27 22:53, 2年前 , 49F
目前NPU主要是執行低精度矩陣乘法 功耗更低
12/27 22:53, 49F
→
12/27 23:33, 2年前 , 50F
說不定zen 5 / arrow lake就會拼NPU了
12/27 23:33, 50F
→
12/27 23:39, 2年前 , 51F
int8在邊緣運算很常見啊 低功耗精度
12/27 23:39, 51F
→
12/27 23:39, 2年前 , 52F
也不會掉太多
12/27 23:39, 52F
→
12/27 23:44, 2年前 , 53F
*準確度
12/27 23:44, 53F
→
12/28 01:30, 2年前 , 54F
對你沒有實際應用
12/28 01:30, 54F
→
12/28 01:30, 2年前 , 55F
不等於這東西沒實際應用內==
12/28 01:30, 55F
推
12/28 02:12, 2年前 , 56F
是蠻期待以後遊戲導入之後，能看到完全
12/28 02:12, 56F
→
12/28 02:12, 2年前 , 57F
不同風貌的遊戲出現
12/28 02:12, 57F
推
12/28 03:48, 2年前 , 58F
等PS/XBOX導入再說吧
12/28 03:48, 58F
→
12/28 09:37, 2年前 , 59F
再過2到3代再來煩腦
12/28 09:37, 59F
推
12/28 09:50, 2年前 , 60F
當初cpu覺得算圖形很浪費 所以跑出了GPU
12/28 09:50, 60F
→
12/28 09:50, 2年前 , 61F
同樣道理 現在gpu覺得算這些數學很浪費
12/28 09:50, 61F
→
12/28 09:51, 2年前 , 62F
所以出了npu/vpu
12/28 09:51, 62F
→
12/28 09:51, 2年前 , 63F
gpu還有很多其他能力 用4090其實很浪費
12/28 09:51, 63F
推
12/28 10:48, 2年前 , 64F
等3代以後吧 前面一定是又貴效能低
12/28 10:48, 64F
推
12/28 12:25, 2年前 , 65F
目前看起來沒什麼特別優勢
12/28 12:25, 65F
→
12/28 12:25, 2年前 , 66F
12/28 12:25, 66F
→
12/28 12:25, 2年前 , 67F
12/28 12:25, 67F
→
12/28 12:25, 2年前 , 68F
12/28 12:25, 68F
→
12/28 12:25, 2年前 , 69F
12/28 12:25, 69F
→
12/28 12:25, 2年前 , 70F
12/28 12:25, 70F
‣ 更多 wahaha99 的文章
文章代碼(AID): #1bY-Fu4d (PC_Shopping)
討論串 (同標題文章)
以下文章回應了本文：
完整討論串 (本文為第 1 之 3 篇)：
排序： 最新先 | 最舊先 | 留言數
在新視窗開啟完整討論串 (共3篇)
PC_Shopping 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 wahaha99 的文章
文章代碼(AID): #1bY-Fu4d (PC_Shopping)