[問題] EXCEL奇怪的BUG?
(若是和其他不同軟體互動之問題 請記得一併填寫)
軟體:EXCEL
版本:2007
小弟最近用EXCEL VBA作數值運算~~發現一個很奇怪的事情
如果在任意一個儲存格中輸入公式 = (1-0.2*0.2*5*5)~~~~~>必須要加括號~~不加就等於0
或是(1-0.2^2*5^2)就
會出現-2.22045E-16
如果交錯輸入 = (1-0.2*5*0.2*5) 就會等於零?????
這是EXCEL浮點數演算法有問題嗎??
由於我會使用到函式 SQRT(1-(函數1)^2*(函數2)^2)~
~開更號裡怎麼可以有負的~
雖然試過加上ABS變成
SQRT(ABS(1-(函數1)^2*(函數2)^2)) = (一些數字)*E-8
只怕未來用迴圈疊代的時候裡誤差會傳遞下去或是放大
不知這個BUG要如何修正教好??
謝謝各位指教
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 111.248.84.223
推
09/22 17:13, , 1F
09/22 17:13, 1F
→
09/22 23:52, , 2F
09/22 23:52, 2F
推
09/23 03:50, , 3F
09/23 03:50, 3F
→
09/23 03:53, , 4F
09/23 03:53, 4F
推
09/23 04:01, , 5F
09/23 04:01, 5F
→
09/23 04:03, , 6F
09/23 04:03, 6F
→
09/23 23:01, , 7F
09/23 23:01, 7F
Office 近期熱門文章
PTT數位生活區 即時熱門文章
