Re: [問題] c++浮點運算
※ 引述《MLP2007.bbs@ptt.cc (NUE BLA)》之銘言：
> 43270.2/7200
> 在c程式運算 = 6.0097499999999995 (有誤差)
> 在小算盤運算 = 6.00975 (精確值)
> 我知道第一個結果是因為IEEE-754的原因所以有誤差 (43270.2無法用2進制完全表示)
> 請問小算盤是怎麼做到的? 在c程式如何像小算盤一樣算出精確值?
小數下8 位, 16位使用四捨五入.(保持 7位, 15位精度).
這是最近看到王安的作法.(古早年代的解法).
小算盤是一般用的. 不是科學用. 所以盡可能顯示一般人
的慣例. 不過..
1/3= 0.333333333333333333333333333333333
它會秀出32位精度還真有趣.
--
※ Origin: 楓橋驛站<bbs.cs.nthu.edu.tw>
◆ From: tommy @ 125-232-134-203.dynamic.hinet.net
Programming 近期熱門文章
PTT數位生活區 即時熱門文章
