Re: [問題] 跑Keras的model正常GPU使用率會是多少

看板Python作者 (如果狗狗飛上天)時間7年前 (2018/03/13 03:28), 7年前編輯推噓3(307)
留言10則, 4人參與, 7年前最新討論串2/2 (看更多)
※ 引述《HumuHumu (呼姆呼姆)》之銘言: : ※ [本文轉錄自 deeplearning 看板 #1QfakpUB ] : 作者: HumuHumu (呼姆呼姆) 看板: deeplearning : 標題: [問題] 跑Keras的model正常GPU使用率會是多少 : 時間: Mon Mar 12 17:43:12 2018 : 我已經重複安裝很多變anaconda cudnn cuda等等了 : 但是我跑keras的model不管怎樣跑起來的速度都還是跟使用CPU跑的速度差不多 : 而且打開工作管理員,GPU使用率都只有7~8%左右 : 請問這樣是有在用GPU跑的嗎?? : 我不管裝幾次都是這種結果 我不知道該怎麼解決他嗚嗚嗚 看了一下你的推文,你用的是Geforce 1080,這種等級的卡,跑個 小ANN(我猜你的ANN,指的是MLP的意思吧?)你期待看到啥GPU使用 率? 1080有2560個cuda core啊. 用10%已經有256個core了.不少 了,如果你是用那種筆電內建的卡,也就2,3百個core的,這已經幾 乎要滿載了. 我的卡是Titan Xp,不要說這種小MLP了,就算是用CNN跑MNIST都是 低於10%. 你真的想燒機,看看GPU使用率狂飆的快感,好歹也要 玩些幾百MB起跳的影像模型,例如VGG16,或VGG19你才看的到1080被 操的不要不要的感覺. 所以玩玩看style-transfer吧,裡面會用到Vgg16,跟Vgg19可以讓 你操卡操到爽: https://github.com/kevinzakka/style-transfer * BTW, windows顯示的那個使用率是copy engine的使用率,當你 的GPU記憶體很大的時候,copy自然就會低一點. 你要看GPU的計算 使用率,你應該要看的是compute_0那個欄位. -- ★人生中最溫暖的夏天是在紐約的冬天 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 73.66.168.95 ※ 文章網址: https://www.ptt.cc/bbs/Python/M.1520882939.A.904.html

03/13 03:31, 7年前 , 1F
BTW,而且你的GPU記憶體滿載了,這表示你確實用到GPU了.
03/13 03:31, 1F

03/13 03:31, 7年前 , 2F
不過滿載不是因為資料大,而是TF預設都會佔用整顆GPU,避免
03/13 03:31, 2F

03/13 03:32, 7年前 , 3F
計算碎片化,你若是用PyTorch,則是要多少才用多少.
03/13 03:32, 3F
※ 編輯: pipidog (73.66.168.95), 03/13/2018 03:34:39

03/13 07:58, 7年前 , 4F
讚讚讚
03/13 07:58, 4F

03/13 16:01, 7年前 , 5F
感謝大大解惑,因為我一直覺得運算速度很慢,GPU使用率
03/13 16:01, 5F

03/13 16:01, 7年前 , 6F
又低,所以我一直以為我灌錯tensorflow版本
03/13 16:01, 6F

03/13 16:33, 7年前 , 7F
計算量太小,用GPU反而比CPU慢,因為光資料的搬動就花去
03/13 16:33, 7F

03/13 16:33, 7年前 , 8F
不少時間了。這很正常。
03/13 16:33, 8F

03/13 23:34, 7年前 , 9F
有gpu使用率就代表有用gpu啊XD 可用nvidia-smi看
03/13 23:34, 9F

03/13 23:35, 7年前 , 10F
螢幕應該沒啥影響
03/13 23:35, 10F
文章代碼(AID): #1QfjJxa4 (Python)
文章代碼(AID): #1QfjJxa4 (Python)