Re: [討論] Deep Learning 建模與部屬產品的流程

看板DataScience作者Morphee (千磨萬擊還堅勁)時間6年前 (2018/02/15 23:40)推噓4(4推 0噓 8→)

留言12則, 6人參與討論串2/2 (看更多)

就目前狀況來說，自己感覺沒那麼容易，混亂的程度也不是一兩篇文章可以說清楚的，我是假設你不是使用太容易的model，並且想佈署到手機上，常見的api都不一定支援得很好了。另外也要分 iOS 跟 Android，狀況不太一樣。 CoreML 目前算是op支援比較多的，但是相信我，在一年內要佈署特殊一點的 model 上去，會蠻辛苦的。特別是有客製化的layer，狀況更慘烈。再來是 model 在各framework的轉換，並沒有太可靠的工具。比方說，你如果看到一篇論文有 PyTorch 實現，你想弄到手機上，恩， iOS的話，你 model 要先轉成 Caffe or TF ? to Caffe，工具有bug。 to TF，就我所知，沒有很可靠的工具，我是自幹的。接下來，轉 mlmodel，不一定會成功，若成功通常是 model 結構較簡單，或運氣不錯 Apple 那邊沒 bug。效果在手機上重現之後，才能談優化，優化又是一團混亂。 Android 這邊更難走，支援更少，要賭的路更多種。 ※ 引述《rocking5566 (搖滾56)》之銘言： : 這問題分為兩塊 : 1. prototype 時用的工具、環境 : 由於 prototype 時，需要能快速實作與修改網路架構、 : 方便訓練、微調 hyper parameter、 : fine tune weight : 這部分常見的有兩派 : a. docker + tensorflow + high level api : ex: (keras or TFLearn or slim) : ipython notebook 修改上層流程 : 搭配 tensorboard 來看 learning curve : b. docker + caffe : ps: 用 docker 原因是裝環境麻煩，build docker image 乾淨俐落， : 確保團隊使用一樣的環境 : 而且當環境被玩壞的時候，三秒復原給你看XD : 2. 部署至產品上的工具 : 這邊通常要求 forward 快速，相依 library 少 : 如果是手機、嵌入式等 arm 環境， : 則 library 大小、model 也是能小則小。 : 這一塊較受歡迎的，有 tensorflow lite、caffe2、 : core ml、ncnn、mobile deep learning : 若是雲端環境，則 mxnet 似乎是不錯的選擇 : 請問各位三百萬大大，有推薦使用的工具嗎？ : 蠻好奇不同情境下，適用的工具 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.34.230.27 ※ 文章網址: https://www.ptt.cc/bbs/deeplearning/M.1518709235.A.B68.html