看板 [ Fortran ]
討論串[問題] 計算的精準度問題
共 6 篇文章
內容預覽： 開啟 | 關閉 | 只限未讀
首頁
上一頁
1
2
下一頁
尾頁
#1
[問題] 計算的精準度問題
推噓0(0推 0噓 0→)留言0則，0人參與, 最新作者jyhchyunlu (jyhchyunlu)時間16年前 (2009/08/06 21:07), 編輯資訊
0
0
0
內容預覽:
各位板友好. 我碰上了一個很奇怪的問題. 是這樣的. 有三個變數 AL ALO E0 格式都是DOUBLE. ALO=1.000000000000000. AL 0.999999600000000. E0=(AL-ALO)/ALO. 答案應該是-4.000000000000000E-007. 但我跑
首頁
上一頁
1
2
下一頁
尾頁