PTT數位生活區 / DataScience

entropy的原始數學式或推導過程?

看板DataScience作者 (yuwenche)時間2年前 (2022/06/08 14:42), 編輯推噓3(3推 0噓 14→)
留言17則, 7人參與, 2年前最新討論串1/1
底下的連結是一段DDQN的程式，我知道它導入了entropy的概念，但不懂第38行的由來。 請問有誰知道原始數學式或推導過程? 感謝回覆。 https://github.com/ShawK91/Evolutionary-Reinforcement-Learning/blob/master/alg os/ddqn.py -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.161.182.159 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1654670526.A.51D.html
→
06/08 14:45, 2年前 , 1F
網址太長,編輯有問題,無法跳轉,煩請複製貼上網址。
06/08 14:45, 1F
→
06/08 15:47, 2年前 , 2F
幫縮址教學:https://reurl.cc/A7D6ME
06/08 15:47, 2F
→
06/08 16:11, 2年前 , 3F
softmax就歸一成機率，其他就...cross entropy...
06/08 16:11, 3F
推
06/08 16:22, 2年前 , 4F
那就是cross entropy, Σ-Plog(P)
06/08 16:22, 4F
→
06/09 14:53, 2年前 , 5F
感謝回覆。那這應該也可以用torch.nn.
06/09 14:53, 5F
→
06/09 14:54, 2年前 , 6F
CrossEntropyLoss()函數代替吧?
06/09 14:54, 6F
→
06/09 18:53, 2年前 , 7F
cross entropy又稍微有點不一樣
06/09 18:53, 7F
→
06/09 18:54, 2年前 , 8F
你現在的例子應該是沒辦法直接替代
06/09 18:54, 8F
→
06/11 09:52, 2年前 , 9F
缺少副標 我已經幫忙補上，下次請注意 謝謝
06/11 09:52, 9F
推
06/19 03:14, 2年前 , 10F
entropy的原始數學 是熱力學波滋曼的熵 你要學熱力學!
06/19 03:14, 10F
→
06/19 03:15, 2年前 , 11F
電腦用的 是改良過的 shannon 熵
06/19 03:15, 11F
推
06/19 03:17, 2年前 , 12F
文章: earthquakes: energy balance and entropy
06/19 03:17, 12F
→
06/19 03:18, 2年前 , 13F
如果有人利用這篇文做出地震熵的預測 請上來發表與分享
06/19 03:18, 13F
→
06/19 03:18, 2年前 , 14F
造福人類幸福安全
06/19 03:18, 14F
→
07/13 13:04, 2年前 , 15F
抱歉,是我自己沒想通。這根本是entropy的定義:
07/13 13:04, 15F
→
07/13 13:07, 2年前 , 16F
E(X) = – sum x in X P(x) * log(P(x)) 。只是被
07/13 13:07, 16F
→
07/13 13:08, 2年前 , 17F
softmax給搞混了。
07/13 13:08, 17F
‣ 更多 yuwenche 的文章
文章代碼(AID): #1Ye4I-KT (DataScience)
DataScience 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 yuwenche 的文章
文章代碼(AID): #1Ye4I-KT (DataScience)