PTT數位生活區 / DataScience

[問題] 手刻機器學習模型

看板DataScience作者 (再一次)時間1年前 (2023/01/20 22:02), 1年前編輯推噓12(12推 0噓 27→)
留言39則, 13人參與, 最新討論串1/1
請問板上各位前輩 最近想試著手刻一些機器學習的模型 像是KNN、Logistic之類的經典模型 但找了一些書後發現大多都是介紹完模型概念後就直接使用scikit-learn的套件模型使用 於是上來問問板上前輩 有沒有關於這些手刻模型的書籍或是參考資源是比較推薦的？ 另外想問一下，手刻模型需要刻到怎麼樣的程度？ 是需要做到可以像scikit-learn一樣還有一些額外的參數可以做調整 還是說只要可以實現這些演算法的內容與結果即可 會這樣問是因為這學期修的某堂課老師常常提到說會要求自己的研究生不能使用套件 都要他們自己手刻，也提過說去到業界工作也不會讓你使用這些套件 也是因為這樣才讓我想說自己試著手刻看看，順便加強自己的coding能力 不曉得這樣做對自己有沒有幫助 還請板上前輩解惑 謝謝大家 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.120.7.210 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1674223338.A.913.html
→
01/20 22:13, 1年前 , 1F
我倒覺得業界也要用那些套件做模型訓練，只是部署階
01/20 22:13, 1F
→
01/20 22:13, 1年前 , 2F
段有種種考量要自己刻或者改code的能力
01/20 22:13, 2F
推
01/20 22:23, 1年前 , 3F
業界不用套件？？？ 這老師是跟哪個公司合作的...
01/20 22:23, 3F
推
01/20 23:08, 1年前 , 4F
練習時就刻核心就好，可以當成做教學的心態，會做得
01/20 23:08, 4F
→
01/20 23:08, 1年前 , 5F
比較仔細。跟刻論文算法一樣，如果結果跟論文差太多
01/20 23:08, 5F
→
01/20 23:08, 1年前 , 6F
，就會把各種參數都開出來了…
01/20 23:08, 6F
→
01/21 01:28, 1年前 , 7F
不是啦，這邊說的套件是 scikit-learn 直接 .train 那
01/21 01:28, 7F
→
01/21 01:28, 1年前 , 8F
種
01/21 01:28, 8F
請問w大，什麼是直接.train那種呢？
→
01/21 01:28, 1年前 , 9F
Model 自己刻很正常吧？我也只有接簡單案子敢直接交 sc
01/21 01:28, 9F
→
01/21 01:28, 1年前 , 10F
ikit-learn 東西出去
01/21 01:28, 10F
※ 編輯: retest75 (111.83.38.23 臺灣), 01/21/2023 09:20:42
→
01/21 14:58, 1年前 , 11F
手刻模型就是不停的看library的documentations，依自己
01/21 14:58, 11F
→
01/21 14:58, 1年前 , 12F
的需求使用
01/21 14:58, 12F
→
01/21 15:00, 1年前 , 13F
手刻的程度可大可小，小至矩陣計算實作ML，大至新模型
01/21 15:00, 13F
→
01/21 15:00, 1年前 , 14F
架構實作
01/21 15:00, 14F
推
01/21 16:03, 1年前 , 15F
我試過用c刻DNN，和用python numpy刻DNN，torch刻任意基礎
01/21 16:03, 15F
推
01/21 16:03, 1年前 , 16F
模型，個人覺得這個能力應該要有
01/21 16:03, 16F
→
01/21 17:00, 1年前 , 17F
打開PRML 照裡面的算式用numpy寫 easy
01/21 17:00, 17F
推
01/22 10:42, 1年前 , 18F
手刻模型要學數值最佳化套件, 像是LBFGS 或是 SGD等等
01/22 10:42, 18F
→
01/22 10:44, 1年前 , 19F
還有要練習自己建model matrix ，需要線性代數知識
01/22 10:44, 19F
→
01/22 10:44, 1年前 , 20F
以及會用相關的函式庫
01/22 10:44, 20F
推
01/24 21:52, 1年前 , 21F
業界才是能用套件就盡量用，必須特化才會修改
01/24 21:52, 21F
→
01/24 21:53, 1年前 , 22F
基本上要有修改能力，但絕不是什麼都自己造輪子
01/24 21:53, 22F
推
01/25 03:24, 1年前 , 23F
手刻能更好了解原理 但時間可以投注在更有效率的地
01/25 03:24, 23F
→
01/25 03:24, 1年前 , 24F
方
01/25 03:24, 24F
推
01/25 13:46, 1年前 , 25F
借串問一下，在numpy下刻套件跟在pytorch下刻有什麼
01/25 13:46, 25F
→
01/25 13:46, 1年前 , 26F
不一樣嗎
01/25 13:46, 26F
→
01/25 13:46, 1年前 , 27F
最近在用numpy刻一些模型，有想要用pytorch也試試看
01/25 13:46, 27F
→
01/25 13:46, 1年前 , 28F
但突然想到如果我用numpy就可以完成的事為什麼還要
01/25 13:46, 28F
→
01/25 13:46, 1年前 , 29F
用pytorch再做一次
01/25 13:46, 29F
→
01/25 13:46, 1年前 , 30F
想問一下在業界用numpy跟用pytorch有什麼差別嗎？
01/25 13:46, 30F
→
01/25 14:25, 1年前 , 31F
PyTorch 有autograd 還有能跑在GPU上
01/25 14:25, 31F
推
01/26 12:07, 1年前 , 32F
torch有比較多實踐，np刻個NN就很累，torch刻transformer
01/26 12:07, 32F
推
01/26 12:08, 1年前 , 33F
而且torch 2.0 真的很快
01/26 12:08, 33F
→
01/26 20:17, 1年前 , 34F
用numpy寫的附帶打包串接上線都得自己弄過一遍，還有
01/26 20:17, 34F
→
01/26 20:17, 1年前 , 35F
單核
01/26 20:17, 35F
推
02/04 21:49, , 36F
業界其實是有現成的就先用，有需要才針對需求去特化
02/04 21:49, 36F
→
02/04 21:53, , 37F
手刻還是不錯的練習啦，個人認為刻過一次能重現結果，
02/04 21:53, 37F
→
02/04 21:53, , 38F
理解每個步驟的實作即可，時間應花在更值得的地方
02/04 21:53, 38F
推
04/26 20:16, , 39F
好奇一問，你老師是不是姓蔡……？
04/26 20:16, 39F
‣ 更多 retest75 的文章
文章代碼(AID): #1ZofxgaJ (DataScience)
DataScience 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 retest75 的文章
文章代碼(AID): #1ZofxgaJ (DataScience)