[問題] excel公式遞減計算後不等於零

看板Office作者 (j6)時間13年前 (2012/11/08 19:22), 編輯推噓0(0010)
留言10則, 3人參與, 最新討論串1/1
(若是和其他不同軟體互動之問題 請記得一併填寫) 軟體:office excel 2010 版本:2010 64bit 請教EXCEL達人 我寫了簡單的計算式, B1=0.2 C1=20 C2=C1-$B$1=(19.8) . . . C100=C99-$B$1=(0.2) C101=理論上要0 但是算出來是3.76E-14 想半天搞不懂哪裡有問題 有人有經驗解法嗎 感謝 -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 122.194.3.206

11/08 20:33, , 1F
是否是二進位轉十進位造成誤差,用OpenXMLFormatSDK來測試
11/08 20:33, 1F

11/08 20:34, , 2F
http://goo.gl/yF9SB 就會看出精確度有問題
11/08 20:34, 2F

11/08 20:37, , 3F
是否用round函數來試試呢??http://goo.gl/axjCK
11/08 20:37, 3F

11/09 09:52, , 4F
感謝S大的回答,只是試算表連加減都會算錯? 真的很怪
11/09 09:52, 4F

11/09 14:28, , 5F
想知道的話去google rounding error...
11/09 14:28, 5F

11/09 14:28, , 6F
這不是算錯,是叫電腦算無法在電腦裡表達的數字當然有誤差
11/09 14:28, 6F

11/10 11:49, , 7F
我的例子只是減法,小數點下一位而已,應該沒有誤差問題吧?
11/10 11:49, 7F

11/10 12:01, , 8F
rounding error又不是只有小數點下一位
11/10 12:01, 8F

11/10 12:02, , 9F
有興趣的話去把小數點位數全部叫出來
11/10 12:02, 9F

11/10 12:07, , 10F
文章代碼(AID): #1GcvO8OQ (Office)
文章代碼(AID): #1GcvO8OQ (Office)