[問題] 有關最大位數及其精度
請問各位先進
PROGRAM CAL
REAL*8 N,NI,A1,A2
N=0.9988
NI=0.8777
A1=N/NI
A2=-11.033*A1D4+83.507*A1D3-246.59*A1D2+348.69*A1-281.23
WRITE(*,*) A1,' ',A2
STOP
END
這是程式簡化出來的一部份
有關A2的運算
經過程式計算出來的值是115.570237291540
但是用計算機算出來的值是-99.20147809
請問這個問題是跟精度有關嗎?
我該如何解決這個問題?
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 140.121.150.132
→
09/21 10:20, , 1F
09/21 10:20, 1F
→
09/21 10:36, , 2F
09/21 10:36, 2F
→
09/21 10:36, , 3F
09/21 10:36, 3F
→
09/21 14:31, , 4F
09/21 14:31, 4F
討論串 (同標題文章)
完整討論串 (本文為第 1 之 2 篇):
0
4
Fortran 近期熱門文章
PTT數位生活區 即時熱門文章