看板 [ Ajax ]
討論串[問題] 計算精確度的問題
共 2 篇文章
內容預覽： 開啟 | 關閉 | 只限未讀
首頁
上一頁
1
下一頁
尾頁
#1
[問題] 計算精確度的問題
推噓2(2推 0噓 2→)留言4則，0人參與, 最新作者fillano (冒牌費大公)時間17年前 (2008/01/10 11:55), 編輯資訊
1
0
0
內容預覽:
今天在javaworld看到一個問題，我自己試了一下，發現. a=0.82;. alert(a+1-1);. 在ie會顯示0.8199999999999998. 在ff會顯示0.8199999999999998. 這是什麼原因呢？. --. Sapere Aude! 這就是啟蒙運動的口號！. --.
#2
Re: [問題] 計算精確度的問題
推噓1(1推 0噓 8→)留言9則，0人參與, 最新作者jonathanmeow (喵)時間17年前 (2008/01/10 15:48), 編輯資訊
0
0
0
內容預覽:
這我之前做FLASH的時候也發生同樣的問題. trace出來的值明明就是0.82. 可是要他判斷(0.82+1-1)==a的時候. 就會傳出false. 這是因為二進位的問題 感謝FLASH版的高手給的方向. 之後有看到書上說到. 0.82要轉換成二進位，由於是純小數，所以要直接乘以2然後取整數部分
(還有202個字)
首頁
上一頁
1
下一頁
尾頁