PTT數位生活區 / DataScience

Re: [問題] cnn訓練時的問題

看板DataScience作者 (Matlab是盤子在用的)時間6年前 (2018/04/30 20:30), 編輯推噓2(2推 0噓 3→)
留言5則, 4人參與, 6年前最新討論串2/2 (看更多)
※ 引述《bg784533 (bg784533)》之銘言： : 作業系統:win10 : 問題類別:CNN : 使用工具:keras : 問題內容: : 大家好 : 小弟超新手剛接觸深度學習這塊 : 做訓練自己的數據時 原本acc最後收斂在0.9多 : 但是一樣的DATA和程式碼給別台電腦重跑的時候 : acc卻卡在0.5 : 檢查的時候發現多了這個警告 https://imgur.com/a/7NqpCuj : 不知無法收斂的原因是不是跟這個有關 : 請問該如何處理這個情況? 嗨 你好 我也是機器學習萌新 一點意見供你參考 keras裡的kernel initializer預設是mean=0且variance跟input數目相關 來產生的一個亂數 這個亂數有時候產生的好 你訓練時就可能一路順利 可是有時候運氣不好weight initialize在奇怪的點 然後gradient卡在saddle point 那你的training可能就上不去 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.68.100.173 ※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1525091456.A.9D1.html
推
04/30 21:09, 6年前 , 1F
感謝指點
04/30 21:09, 1F
推
04/30 23:42, 6年前 , 2F
請問有什麼辦法改善亂數不會卡在奇怪的地方
04/30 23:42, 2F
→
05/01 04:47, 6年前 , 3F
縮小batch size 這樣gradient descent有機率跳出gra
05/01 04:47, 3F
→
05/01 04:47, 6年前 , 4F
dient很平的地方
05/01 04:47, 4F
→
05/01 20:29, 6年前 , 5F
試試用有momentum 的optimizer?
05/01 20:29, 5F
‣ 更多 Rprogramming 的文章
文章代碼(AID): #1Qvmo0dH (DataScience)
討論串 (同標題文章)
本文引述了以下文章的的內容：
完整討論串 (本文為第 2 之 2 篇)：
排序： 最舊先 | 最新先 | 留言數
在新視窗開啟完整討論串 (共2篇)
DataScience 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 Rprogramming 的文章
文章代碼(AID): #1Qvmo0dH (DataScience)