[問題]real*8的有效位數
請問一下
我想測試雙精準數的有效位數是否如書上所說的15~16位
因此宣告了一個變數
real*8 a
a=1.234567890123456789
compile後執行
卻得到a=1.23456788063049(用ifort)
a=1.2345678806304932(用gfortran)
換過其他數字後有效位數也沒有比較多
請問問題出在那?
謝謝
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 140.109.105.83
推
08/17 15:47, , 1F
08/17 15:47, 1F
→
08/17 16:12, , 2F
08/17 16:12, 2F
推
08/17 16:22, , 3F
08/17 16:22, 3F
推
08/17 17:47, , 4F
08/17 17:47, 4F
Fortran 近期熱門文章
PTT數位生活區 即時熱門文章