PTT數位生活區 / Python

[心得] 精確計算浮點數的方式

看板Python作者 (luckid)時間5年前 (2019/10/11 16:19), 5年前編輯推噓1(1推 0噓 1→)
留言2則, 2人參與, 5年前最新討論串1/1
https://gist.github.com/twkhjl/d149d783a3ac5957caa0cd33c481c3d6 這幾天連假沒事, 試著用python+PyQt5練習寫個計算機, 遇到一個令人哭笑不得的問題, 就是在計算浮點數時會多出許多位數>_< 最後找到一個方式解決,僅供參考,希望有所幫助, 簡單來講就是用正則找出所有小數點數字,在外面加上Decimal, 所以原本的算式假設是 0.1+0.1+0.1 ,會變成 Decimal(0.1)+Decimal(0.1)+Decimal(0.1) ,再用eval就會得出0.3的值了. 以上程式僅供參考,肯定會有更好的解法,也請各位先進不吝指正,感謝. -- https://www.youtube.com/watch?v=B_CMmbFexbM
-- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.47.124.106 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Python/M.1570781973.A.8BD.html ※ 編輯: luckid (114.47.124.106 臺灣), 10/11/2019 17:48:57
推
10/12 07:44, 5年前 , 1F
round
10/12 07:44, 1F
→
10/12 12:04, 5年前 , 2F
感謝分享其它作法
10/12 12:04, 2F
‣ 更多 luckid 的文章
文章代碼(AID): #1Te3iLYz (Python)
Python 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 luckid 的文章
文章代碼(AID): #1Te3iLYz (Python)