看板 [ Programming ]
討論串[問題] 如何直接判斷浮點數運算時的誤差?(贈P幣)
共 2 篇文章
內容預覽： 開啟 | 關閉 | 只限未讀
首頁
上一頁
1
下一頁
尾頁
#1
[問題] 如何直接判斷浮點數運算時的誤差?(贈P幣)
推噓0(0推 0噓 0→)留言0則，0人參與, 最新作者baobao566 (寶寶)時間6年前 (2018/11/29 08:08), 6年前編輯資訊
1
0
2
內容預覽:
為了這個問題困擾了許久，不斷地查資料，查完這個觀念，又看到新的名詞與此題. 有關聯。以我查到的資料VB.Net在浮點數運算時會將數字以IEEE754來標準來做，預設的浮點數型態是Double，所以是64位，有誤差是因為將他轉成2進制，小數部分如果無限. 循環，取到53位往最靠近的捨入(Round t
(還有595個字)
#2
Re: [問題] 如何直接判斷浮點數運算時的誤差?(贈P幣)
推噓0(0推 0噓 0→)留言0則，0人參與, 最新作者tico88612 (煉獄乂暴龍)時間6年前 (2018/12/04 15:25), 編輯資訊
0
0
3
內容預覽:
不管是哪個程式、電腦環境，浮點數都是使用IEEE754去做的. 也就是說，全世界的電腦都有誤差問題. float 1 sign + 8 exponent + 23 mantissa. double 1 sign + 11 exponent + 52 mantissa. sign 正負號 0為正 1為
(還有680個字)
首頁
上一頁
1
下一頁
尾頁