[問題] Pytorch upadate gradient 問題
作業系統: Win10
問題類別: 簡單CNN
使用工具: Pytorch
問題內容:
剛入門深~度學習,在學習Pytorch發現一個問題,
先附一張圖,取自Pytorch官方教學範例。
https://imgur.com/a/JeXGTxr
loss.backward() ------> 這個應該計算每個層的 gradient
問題:
optimizer.step() -----> 為何知道要把loss這個物件的 gradient 更新到
optimizer 物件?
因為我想在在每個 batch 的迴圈中
放入驗證資料,想要在學習的時候可以看到每次跌代的過程
valid_outputs = net(valid_inputs)
valid_loss = criterion(valid_outputs, valid_labels)
但卻看到 Loss 不會變動
因此覺得是對上面這個過程不夠理解
有人做交叉驗證遇到同樣的問題嗎?
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.71.94.20
※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1542965409.A.8EB.html
推
11/23 21:42,
6年前
, 1F
11/23 21:42, 1F
→
11/23 21:44,
6年前
, 2F
11/23 21:44, 2F
→
11/23 23:14,
6年前
, 3F
11/23 23:14, 3F
→
12/03 08:56,
6年前
, 4F
12/03 08:56, 4F
→
12/03 08:58,
6年前
, 5F
12/03 08:58, 5F
DataScience 近期熱門文章
PTT數位生活區 即時熱門文章