PTT數位生活區 / Fortran

[問題] overflow

看板Fortran作者 (TONY)時間13年前 (2011/11/01 19:17), 編輯推噓4(4推 0噓 1→)
留言5則, 3人參與, 最新討論串1/1
最近要寫程式計算一些光譜的boardening 需要做10^15 ~ 10^-15 之間的數值模擬 問題很明顯~就是overflow的問題 要不然就是出來的data 顯示 NaN 非常的卡關~ 有辦法處理這方面的問題嗎~ ㄒ0ㄒ 感謝 -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 140.115.30.225
推
11/02 00:07, , 1F
你是要進行大數運算嗎?也許這個站能幫你:
11/02 00:07, 1F
→
11/02 00:08, , 2F
11/02 00:08, 2F
推
11/02 00:50, , 3F
10^15 single precision就夠了吧，我記得可以到10^3x
11/02 00:50, 3F
推
11/06 00:00, , 4F
double 才是 10^3x次方
11/06 00:00, 4F
推
11/06 00:26, , 5F
single precision~10^38 double precision~10^308
11/06 00:26, 5F
‣ 更多 tonyruler 的文章
文章代碼(AID): #1EhzL1uH (Fortran)
Fortran 近期熱門文章
更多 近期熱門文章 >>
PTT數位生活區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 tonyruler 的文章
文章代碼(AID): #1EhzL1uH (Fortran)