[問題] 處理極小數的相除
假設有一個函數關係為 A2 = C * A1
現在已經有A2與A1的數值結果,且兩者皆為一個類似sin函數的結果,
我知道A2與A1的結果極為相近,故理論上C會是一個接近1的常數,
但在數據計算上求 C = A2 / A1會遇到一個問題是...
若A2與A1很接近0時,會導致相除結果會有頗大的誤差,
例如 1.E-5 / 1.E-4
是否有適當的數據處理方式來避免?
--
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 112.104.37.136
推
02/09 01:22, , 1F
02/09 01:22, 1F
Fortran 近期熱門文章
PTT數位生活區 即時熱門文章