[算表] 小數浮點數問題(BUG?) MATCH.VLOOKUP系列

看板Office作者 (David)時間16年前 (2009/09/01 23:11), 編輯推噓1(104)
留言5則, 2人參與, 最新討論串1/1
軟體: Excel 版本: 2003,2007 之前是知道在拖曳數列的時候 小數經過0可能會有問題(註) 但沒注意到連用MATCH等函數也會有問題 A1 =1.1+0.1 則下式會出現 #N/A =MATCH(1.2,A1,) VLOOKUP同理 這樣說來還真有點危險 這麼簡單的數就有問題 而且 1.01+0.01沒事 2.01+0.01有事 2.1+0.1沒事 壞掉的規則看似不怎麼明顯 不知大家有沒有類似的經驗.研究.或看過的文章可以分享一下 (註) 舉例 打兩個數 -0.8 -0.7 選起來 拖曳 到0的時候 -0.2 -0.1 9.99201E-16 ←不是0 0.1 0.2 -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 218.164.52.246

09/02 09:19, , 1F
09/02 09:19, 1F

09/02 22:20, , 3F
感謝 還有附解決方法(TRUNC等) 看來1.1+0.1=1.2有最佳化過
09/02 22:20, 3F

09/02 22:42, , 4F
^^
09/02 22:42, 4F

09/02 22:45, , 5F
所以看來第一個例子要寫成 A1 =trunc(1.0+0.1,2) 才OK
09/02 22:45, 5F
文章代碼(AID): #1AdJcVR5 (Office)
文章代碼(AID): #1AdJcVR5 (Office)