Re: [問題] FPGA加速machine learning?
對於已訓練好的模型
FPGA在預測上和GPU速度已經是不相上下
原因是雖然FPGA 頻率沒有這麼快
但是有大量的register可以做流水線
例如gpu一次可以做1000個乘加
但是一個乘加要4個clock才會做完
所以1000個乘加到下1000個乘加間要隔4個clock
所以平均每個clok可以做250乘加
而假如fpga一次可以做250個乘加
每個乘加也是需要4個clock
但是因為流水線的關係
第4個clock之後每個clock都可以輸出250個乘加
所以大量運算下平均每個clock可以做250個乘加
但是相同規格的FPGA價格只要GPU的一半
而且所消耗的電量只要1/8
不過由於fpga是把硬體寫死
所以沒辦法放太多東西進來
FPGA用來訓練的話就沒GPU那麼快了
好的搭配是開發人員用GPU訓練
然後把訓練好的模型用FPGA去大量預測
對於data center來說是非常省成本的
例如Facebook 通常都是把訓練好的模型放在主機上
然後用戶有上傳資料時才做預測
這時他們考慮的就是電價而已
※ 引述《PyTorch (屁眼火炬)》之銘言：
: 如題
: 以前聽過FPGA加速machine learning
: 我一直不懂什麼原理
: 我可以理解平行運算可以加速矩陣運算
: 但是一般的GPU就有這種功能了吧?
: 而且我記得FPGA的gate delay不是比一般IC大嗎?
: 為什麼用FPGA可以加速呢?
: 想請問有沒有人能幫我解惑?謝謝
-----
Sent from JPTT on my iPhone
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.83.99.85
※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1523787076.A.756.html
推
04/15 21:07,
6年前
, 1F
04/15 21:07, 1F
討論串 (同標題文章)
本文引述了以下文章的的內容：
完整討論串 (本文為第 2 之 2 篇)：
DataScience 近期熱門文章
PTT數位生活區 即時熱門文章
