[問題] 浮點數 round-off error
用8-bit form 當例子(not IEEE standard)
假設對下面兩個浮點數進行加法
1 110 1011 <- a (-11/4)
+) 0 100 1101 <- b (13/16)
_____________
那在把 b 的指數對齊 a 的過程中
會得到 0 110 0011 還是 0 110 001101?
#即 round-off error 會發生在運算的過程中嗎?
#還是運算不受 mantissa 只有四位的限制?
假如是前面的 那算出來會是 -2.0
如果後面就變成 (-15/8)
這樣答案就不一樣了
請問實際上會是哪一種
有跟浮點數比較熟的板友可以幫忙一下下嗎QQ?
先謝謝了~
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.112.196.109
※ 文章網址: http://www.ptt.cc/bbs/Programming/M.1416225415.A.8AC.html
推
11/17 21:04, , 1F
11/17 21:04, 1F
→
11/17 21:04, , 2F
11/17 21:04, 2F
→
11/17 21:05, , 3F
11/17 21:05, 3F
感謝~
所以在計算過程中
浮點數的mantissa可以超過四位囉? (32 bit form 的話超過23位?)
※ 編輯: SahsB (140.112.196.109), 11/17/2014 21:50:34
→
11/18 09:32, , 4F
11/18 09:32, 4F
→
11/18 09:32, , 5F
11/18 09:32, 5F
→
11/18 09:32, , 6F
11/18 09:32, 6F
Programming 近期熱門文章
PTT數位生活區 即時熱門文章
