看板 [ Visual_Basic ]
討論串[VB6 ] 1 - 99.9 / 100≠0.001
共 3 篇文章
內容預覽： 開啟 | 關閉 | 只限未讀
首頁
上一頁
1
下一頁
尾頁
#3
Re: [VB6 ] 1 - 99.9 / 100≠0.001
推噓1(1推 0噓 1→)留言2則，0人參與, 最新作者colawei (D逃)時間19年前 (2006/06/06 23:58), 編輯資訊
0
0
0
內容預覽:
想要解這個問題沒那麼複雜,. 其實只是變數型態轉換時產生的誤差而已.. 加個小動作就可以解決了. Print 1 - CCur(99.9) / 100. 用你的電腦跑跑看, 0.001 回來了!!. *以上的動作是轉換成 Currency 的資料型態,. 資料長度同 Double 有 8 Bytes
(還有94個字)
#2
Re: [VB6 ] 1 - 99.9 / 100≠0.001
推噓1(1推 0噓 0→)留言1則，0人參與, 最新作者fumizuki (矇面加菲獅)時間19年前 (2006/06/06 20:02), 編輯資訊
0
0
0
內容預覽:
所有電腦共同的問題：精確度問題. 電腦儲存數字一律使用 Single / Double 型態儲存. 只有在2的倍數的情況下，能達到不失真的情形@@. 9.99999999999943E-04. =9.99999999999943 * (10 ^ -4). =0.000999999999999943.
(還有335個字)
#1
[VB6 ] 1 - 99.9 / 100≠0.001
推噓1(1推 0噓 1→)留言2則，0人參與, 最新作者Guestion (Question)時間19年前 (2006/06/06 14:51), 編輯資訊
0
0
0
內容預覽:
我在即時運算視窗裡輸入：. Print 1 - 99.9 / 100. 結果出來後不是 0.001，而是 9.99999999999943E-04. 請問為什麼會這樣呢?. --. ※ 發信站: 批踢踢實業坊(ptt.cc). ◆ From: 61.223.217.101.
首頁
上一頁
1
下一頁
尾頁