PTT數位生活區 / DataScience

[問題] GAN的mode collapse問題

看板DataScience作者 ('selu')時間6年前 (2018/08/17 16:00), 編輯推噓0(0推 0噓 10→)
留言10則, 2人參與, 6年前最新討論串1/1
請問我看GAN的paper他的優化是兩個KL divergence相加成一個JSD 那JSD應該是對稱的吧? 為什麼GAN仍會有不對稱問題要用D2GAN來解決mode collapse? 這裡我有點頭腦打結， 請教各位大德，謝謝了 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.112.16.134 ※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1534492812.A.48D.html
→
08/17 19:12, 6年前 , 1F
你說的對稱是指什麼東西
08/17 19:12, 1F
→
08/17 19:46, 6年前 , 2F
對不起沒說清楚, 就是P_g跟P_data是對稱的
08/17 19:46, 2F
→
08/17 19:48, 6年前 , 3F
KL(P_g|| P_data+P_g) + KL(P_data || P_data+P_g)
08/17 19:48, 3F
→
08/17 20:16, 6年前 , 4F
這樣應該沒有篇重P_g或P_data吧?
08/17 20:16, 4F
→
08/17 20:17, 6年前 , 5F
*偏重
08/17 20:17, 5F
→
08/18 12:10, 6年前 , 6F
呃 那只是式子上是對稱
08/18 12:10, 6F
→
08/18 12:11, 6年前 , 7F
因為model產生的分佈和資料的分佈本來就不同
08/18 12:11, 7F
→
08/18 12:13, 6年前 , 8F
在訓練的時候因為model的結構大小和訓練資料的特性
08/18 12:13, 8F
→
08/18 12:13, 6年前 , 9F
，兩邊的力量很難平均
08/18 12:13, 9F
→
08/18 12:14, 6年前 , 10F
總之gan就是難train，ㄎㄎ
08/18 12:14, 10F
‣ 更多 Activation 的文章
文章代碼(AID): #1RTe2CID (DataScience)
DataScience 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 Activation 的文章
文章代碼(AID): #1RTe2CID (DataScience)