[問題] RNN預測onehot的一些問題

看板DataScience作者 (希望實現希望)時間6年前 (2018/10/17 21:39), 編輯推噓2(204)
留言6則, 3人參與, 6年前最新討論串1/1
問題類別:(ex:ML,SVM,RL,DL,RNN,CNN,NLP,BD,Vis,etc...) 使用工具:(ex:python,Java,C++,tensorflow,keras,MATLAB,etc...) 問題內容: 資料板大大們,請教一些問題: 背景:使用Keras類似鐵達尼的範例,使用RNN,onehot作為Lable,約有14個Features, 想預測Lable為1的概率多少。loss及 acc loss有降低至約0.10,acc及val acc約0.65。 問題: epoch試過到100-500次,但是val acc依然變化微小,或是根本不變...然後測試集有1000 個樣本去測試算出存活的概率,只有一個樣本的概率是高的,其餘999個樣本的概率皆是0 .35555... 小弟只能不斷整天調整損失函數、優化器等參數一直試,請問大大可以給點建議嗎?謝謝 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.169.135.139 ※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1539783588.A.20B.html

10/17 23:00, 6年前 , 1F
沒看code不知道 但聽起來像model中沒做normalization
10/17 23:00, 1F

10/17 23:20, 6年前 , 2F
抱歉現在電腦不在身邊無法貼code ,大大指得是預處理的
10/17 23:20, 2F

10/17 23:20, 6年前 , 3F
標準化後資料,在model中需要再做標準化的意思嗎?我真
10/17 23:20, 3F

10/17 23:20, 6年前 , 4F
的沒想過這問題,是激活函數造成各樣本在model中出現了
10/17 23:20, 4F

10/17 23:20, 6年前 , 5F
變異?
10/17 23:20, 5F

10/23 17:32, 6年前 , 6F
關鍵字batch normalization
10/23 17:32, 6F
文章代碼(AID): #1Rnpka8B (DataScience)
文章代碼(AID): #1Rnpka8B (DataScience)