PTT數位生活區 / MATLAB

[問題] 請教高手關於數字的誤差已回收

看板MATLAB作者 (體脂肪35%)時間16年前 (2009/02/11 21:27), 編輯推噓1(1推 0噓 0→)
留言1則, 1人參與, 最新討論串1/2 (看更多)
我在我的Matlab 7.4.0(R2007a)裡面輸入 >> 0.01+0.01+0.01-0.03 ans = 0 可是我輸入 >> 0.1+0.1+0.1-0.3 ans = 5.5511e-017 我以為跟原本數字的小數點位數有關係 可是當我輸入 >> 0.025+0.025+0.025+0.025+0.025+0.025+0.025+0.025+0.025+0.025+0.025+0.025 +0.025+0.025+0.025+0.025+0.025+0.025+0.025+0.025-0.5 ans = 1.1102e-016 請問有哪位前輩可以解釋一下 為什麼呢？ 要如何讓他只顯示正確的答案：0呢？ -- -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 152.14.55.70
推
02/12 07:03, , 1F
我也是耶, 有意思~
02/12 07:03, 1F
‣ 更多 pow 的文章
文章代碼(AID): #19aj9226 (MATLAB)
MATLAB 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 pow 的文章
文章代碼(AID): #19aj9226 (MATLAB)