PTT數位生活區 / DataScience

[討論] 關於training時early stopping的時機

看板DataScience作者 (Matlab是盤子在用的)時間6年前 (2018/04/23 13:34), 編輯推噓5(5推 0噓 11→)
留言16則, 8人參與, 6年前最新討論串1/1
如題 小弟最近在練習train CNN 關於early stopping的時機 想跟大家討論一下 自己覺得有4個可能的點 1. validation loss 不顯著下降的時候: 有時候validation loss不下降但validation accuracy仍繼續上升，不確定是否該停，反之亦然，我認為這是因為較低的validation loss不一定對應較高的validation accuracy (假設loss用cross entropy的時候) 2. validation accuracy不顯著上升的時候: 這個點感覺最有說服力，但也要考慮到 validation set 一般切不會太大，無法很有效代表test set， accuracy也有可能會飄來飄去的 3. training accuracy >> validation accuracy: 這是我同學認為的，他覺得 training accuracy 大於validation accuracy就overfitting了 再train下去沒用 例如training accuracy 75% 但validation accuracy只有65% 就應該停下來了 4. training loss不繼續下降的時候: 這個點一般要等最久，early stopping效果不顯著 而且可能早就已經overfitting了 小弟才疏學淺，還請各位先進能不吝指點 謝謝 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 119.14.44.99 ※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1524461699.A.5CA.html
推
04/23 14:03, 6年前 , 1F
我覺得是1，看validation loss
04/23 14:03, 1F
→
04/23 20:53, 6年前 , 2F
就12 ,case by case
04/23 20:53, 2F
→
04/23 22:16, 6年前 , 3F
通常是1
04/23 22:16, 3F
推
04/24 04:37, 6年前 , 4F
4就是收斂了，哪來early stopping
04/24 04:37, 4F
推
04/24 17:49, 6年前 , 5F
我都用2
04/24 17:49, 5F
推
04/24 18:22, 6年前 , 6F
我也投2
04/24 18:22, 6F
推
04/24 23:56, 6年前 , 7F
我會選擇1
04/24 23:56, 7F
→
04/24 23:56, 6年前 , 8F
accuracy要看你所選擇的measure會不會亂飄，
04/24 23:56, 8F
→
04/24 23:56, 6年前 , 9F
有可能這個epoch很差下個epoch又突然變好，
04/24 23:56, 9F
→
04/24 23:57, 6年前 , 10F
結果你在這個epoch就early stop了。
04/24 23:57, 10F
→
04/24 23:57, 6年前 , 11F
loss是反應objective有沒有學好最直接的指標，
04/24 23:57, 11F
→
04/24 23:57, 6年前 , 12F
相對比較穩定。
04/24 23:57, 12F
→
04/24 23:58, 6年前 , 13F
04/24 23:58, 13F
→
05/02 10:20, 6年前 , 14F
要看狀況，同意樓上的，另外我覺得如果第3已經是常態了
05/02 10:20, 14F
→
05/02 10:20, 6年前 , 15F
話，本來就要停止，只是感覺應該不算early stopping
05/02 10:20, 15F
→
05/02 10:20, 6年前 , 16F
的範疇
05/02 10:20, 16F
‣ 更多 Rprogramming 的文章
文章代碼(AID): #1QtN23NA (DataScience)
DataScience 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 Rprogramming 的文章
文章代碼(AID): #1QtN23NA (DataScience)