討論串[問題] 關於fotran數值運算的誤差問題
共 5 篇文章
首頁
上一頁
1
下一頁
尾頁

推噓0(0推 0噓 0→)留言0則,0人參與, 最新作者sjgau (sjgau)時間18年前 (2006/11/07 09:26), 編輯資訊
0
0
0
內容預覽:
program test. real(kind=8) a, b, c. a=0.100000000001*1D300. a= 0.100000000001D300. b=0.100000000000*1D300. b= 0.100000000000D300. c= a - b. write(*,*)
(還有72個字)

推噓0(0推 0噓 0→)留言0則,0人參與, 最新作者sjgau (sjgau)時間18年前 (2006/11/07 05:28), 編輯資訊
0
0
0
內容預覽:
Fortran. From Wikipedia, the free encyclopedia. Jump to: navigation, search. Fortran. The Fortran Automatic Coding System for the IBM 704 (October 15,
(還有1222個字)

推噓0(0推 0噓 0→)留言0則,0人參與, 最新作者sjgau (sjgau)時間18年前 (2006/11/07 05:22), 編輯資訊
0
0
0
內容預覽:
引述《jinming.bbs@bbs.wretch.cc (人生=無盡的任務)》之銘言:以上 兩個原因都不對. 一 fortran 有 五十年的歷史,為了 後向相容的問題. default 的 浮點數處理是 4- bytes. 所以,. a= 1.000000001 * 1D300. 前面的 1

推噓1(1推 0噓 5→)留言6則,0人參與, 最新作者jinming.時間18年前 (2006/11/07 02:01), 編輯資訊
0
0
0
內容預覽:
我不懂 fortran. 但可能有兩種原因只顯示 0.00000. 1.fortran 儲存 real 只用不到 8 bytes(應該不太可能?). 2.write要設定顯示科學記號表示法. 引述《sjgau.bbs@ptt.cc (sjgau)》之銘言:. > #include "stdafx
(還有1156個字)

推噓0(0推 0噓 0→)留言0則,0人參與, 最新作者sjgau (sjgau)時間18年前 (2006/11/06 11:45), 編輯資訊
0
0
0
內容預覽:
#include "stdafx.h". #include <math.h>. int main(int argc, char* argv[]). {. double a, b, c;. printf("\nsizeof(c)= %d bytes\n", sizeof(c));. a=0.10000
(還有207個字)
首頁
上一頁
1
下一頁
尾頁