[問題] Dropout的值

看板DataScience作者 (屁眼火炬)時間6年前 (2018/04/27 21:12), 編輯推噓2(206)
留言8則, 6人參與, 6年前最新討論串1/1
我看github上面很多code好像大家幾乎都用 dropout=0.幾 有人會把他tune到小數點後3,4位嗎? 好奇專業的機器學習從業人員是怎摸做的? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.137.53.11 ※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1524834751.A.7E5.html

04/27 22:31, 6年前 , 1F
一般都0.4-0.75吧 印象中
04/27 22:31, 1F

04/27 23:30, 6年前 , 2F
dropout有隨機的性質在,沒必要用到很精準吧?
04/27 23:30, 2F

04/28 00:57, 6年前 , 3F
那如果設0.1會怎樣?介於overfitting一半嗎?
04/28 00:57, 3F

04/28 01:44, 6年前 , 4F
https://goo.gl/c8eu49 可以參考看看
04/28 01:44, 4F

04/28 15:00, 6年前 , 5F
感謝
04/28 15:00, 5F

04/29 01:14, 6年前 , 6F
dropout就是做一個mask在你的W上面 rand(size(W)) > p(drop
04/29 01:14, 6F

04/29 01:14, 6年前 , 7F
out)
04/29 01:14, 7F

04/29 01:15, 6年前 , 8F
所以你做到三四位影響不大 10%變10.34%那種
04/29 01:15, 8F
文章代碼(AID): #1Quo6_Vb (DataScience)
文章代碼(AID): #1Quo6_Vb (DataScience)