[問題] Prelu是不是被時代淘汰了?

看板DataScience作者 (心懷感謝不以物喜不以己)時間5年前 (2019/12/18 21:47), 編輯推噓5(506)
留言11則, 10人參與, 5年前最新討論串1/1
從relu 到leaky relu 再到P relu 好像很有道理 P relu本身參數可以學習 可是現在很少看到人用 大部分都直接relu 或leaky relu了 當然現在有selu這種更先進的 不過selu也沒有想像中熱門 為什麼? -- So many people live within unhappy circumstances and yet will not take the initiative to change their situation because they are conditioned to a life of security, conformity, and conservation, all of which may appear to give one peace of mind, but in reality, nothing is more damaging to the adventurous spirit within a man than a secure future. The very basic core of a man's living spirit is his passion for adventure. --Christopher McCandless -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.112.16.173 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1576676836.A.BD3.html

12/18 23:37, 5年前 , 1F
現在還有 gelu
12/18 23:37, 1F

12/19 09:16, 5年前 , 2F
padolu也不錯
12/19 09:16, 2F

12/19 20:45, 5年前 , 3F
prelu 我訓練結果有時候訓練不好
12/19 20:45, 3F

12/20 00:39, 5年前 , 4F
ru啦
12/20 00:39, 4F

12/20 03:09, 5年前 , 5F
還有celu
12/20 03:09, 5F

12/20 03:10, 5年前 , 6F
但簡單粗暴還是relu好用 每次用automl 都是relu最好
12/20 03:10, 6F

12/27 11:24, 4年前 , 7F
簡單
12/27 11:24, 7F

12/31 10:31, 4年前 , 8F
9012年了,還是會用sigmoid 路過
12/31 10:31, 8F

12/31 18:22, 4年前 , 9F
要2020了,還在用softmax路過
12/31 18:22, 9F

01/03 17:15, 5年前 , 10F
Switch好用
01/03 17:15, 10F

03/17 15:34, 5年前 , 11F
瑪莉歐賽車好玩
03/17 15:34, 11F
文章代碼(AID): #1T-YtalJ (DataScience)
文章代碼(AID): #1T-YtalJ (DataScience)