討論串[VB6 ] 關於數值計算
共 2 篇文章
首頁
上一頁
1
下一頁
尾頁

推噓4(4推 0噓 1→)留言5則,0人參與, 最新作者BigLittle (栗頭)時間19年前 (2005/07/22 23:08), 編輯資訊
1
0
0
內容預覽:
手上有個題目. 我用fortran和vb6來計算. 使用相同的計算流程之計算數值不太一樣(誤差不能接受). 兩種程式都是採用雙精制. 請問這是怎麼一回事呢?. 何者較為可靠?. --. ▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔. ▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔▔
(還有99個字)

推噓1(1推 0噓 0→)留言1則,0人參與, 最新作者fumizuki (小獅子)時間19年前 (2005/07/23 21:57), 編輯資訊
0
0
0
內容預覽:
經過試驗. double. vb 可表示到 2 的 -21 次方. vc 可表示到 2 的 -24 次方. float(single). vb 可表示到 2 的 -17 次方. vc 可表示到 2 的 -24 次方. (以上,更小的數會被捨棄=四捨五入). --. VB 程式設計 倉木麻衣 PTT
(還有4個字)
首頁
上一頁
1
下一頁
尾頁