[問題] 處理極小數的相除

看板Fortran作者 (I love Whisky)時間12年前 (2012/02/08 00:55), 編輯推噓1(100)
留言1則, 1人參與, 最新討論串1/1
假設有一個函數關係為 A2 = C * A1 現在已經有A2與A1的數值結果,且兩者皆為一個類似sin函數的結果, 我知道A2與A1的結果極為相近,故理論上C會是一個接近1的常數, 但在數據計算上求 C = A2 / A1會遇到一個問題是... 若A2與A1很接近0時,會導致相除結果會有頗大的誤差, 例如 1.E-5 / 1.E-4 是否有適當的數據處理方式來避免? -- -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 112.104.37.136

02/09 01:22, , 1F
單純浮點數的乘除法不會丟失有效位數 用倍精確度會好點
02/09 01:22, 1F
文章代碼(AID): #1FCLU2Y4 (Fortran)
文章代碼(AID): #1FCLU2Y4 (Fortran)