[問題] GAN 實作以及loss function的問題

看板DataScience作者 (羅密歐與豬過夜)時間4年前 (2020/09/20 19:31), 編輯推噓2(2015)
留言17則, 3人參與, 4年前最新討論串1/2 (看更多)
各位Data Science 版的大大們好,最近在深入研究GAN時,對於他的loss function的了 解以及實作上仍存有疑惑。 問題點 最初開始推導的loss function 如下圖 https://i.imgur.com/cafOjej.jpg
意思是G, D min max這個function吧?換句話說是同個loss funcion? 可是.... 在實作上G, D的loss function卻不太一樣 Generator loss function https://i.imgur.com/tNVfz6s.jpg
Discriminator loss function https://i.imgur.com/4pzT6Hh.jpg
在自己以前學習的認知中,D要max上圖的Lisa function, G要min之,,所以我以為可能 是同個loss function但是一個是正的一個是負的,然而實作上的方式卻跟數學意義上不 太一樣... 希望各位版友能給我一點意見,真的卡了很久,謝謝大家! -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.114.59.240 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1600601445.A.317.html -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.114.59.240 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1600601509.A.87B.html

09/20 20:07, 4年前 , 1F
那個是最終目標,但過程只能靠iteration達成,所以造
09/20 20:07, 1F

09/20 20:07, 4年前 , 2F
成這種差異
09/20 20:07, 2F

09/21 23:06, 4年前 , 3F
BCE裡面你給的標籤不一樣正負號也就不一樣了
09/21 23:06, 3F

09/23 09:08, 4年前 , 4F
你記錯了, discriminator與generator的loss function是
09/23 09:08, 4F

09/23 09:10, 4年前 , 5F
是不同的。你列出來的第一個式子是GAN的loss function,
09/23 09:10, 5F

09/23 09:12, 4年前 , 6F
它包含了discriminator與generator兩部份,
09/23 09:12, 6F

09/23 09:14, 4年前 , 7F
discriminator是要將其最大化, 而generator要將其最小
09/23 09:14, 7F

09/23 09:16, 4年前 , 8F
化。 但當我們能找到global maximun的discriminator時,
09/23 09:16, 8F

09/23 09:18, 4年前 , 9F
其實也就找到了最佳的generator,因此第一個式子基本上
09/23 09:18, 9F

09/23 09:19, 4年前 , 10F
就是discriminator的loss function。這中間有些數學推導
09/23 09:19, 10F

09/23 09:20, 4年前 , 11F
,有興趣可參考:
09/23 09:20, 11F

09/23 09:21, 4年前 , 12F

09/23 09:23, 4年前 , 13F
-engineering-using-generative-adversarial-networks
09/23 09:23, 13F

09/23 09:23, 4年前 , 14F
-8e24b3c16bf3
09/23 09:23, 14F

09/23 09:25, 4年前 , 15F
只是有些好奇, 如果只是作影像方面的東西, 人家的程
09/23 09:25, 15F

09/23 09:26, 4年前 , 16F
式就已經寫好, 不懂這些理論細節應該也沒啥要緊的吧?
09/23 09:26, 16F

09/23 09:27, 4年前 , 17F
我是作財金方面的應用, 歡迎私訊來聊。
09/23 09:27, 17F
文章代碼(AID): #1VPpsbXx (DataScience)
文章代碼(AID): #1VPpsbXx (DataScience)