Re: [.NET] 請問如何突破13位小數點限制?
※ 引述《marktb (Mark)》之銘言：
: 目前正在試寫尤拉數程式
: 但發現vb他只能顯示到.13個小數點
: 請問有辦法讓他突破嗎?
: 以下是我的程式碼
: Dim a,n As Double
: n = TextBox1.Text
: a = (1 + n) ^ (1 / n)
: Label1.Text = a
: TextBox2.Text = a
: 還是說資料型態限制的關係呢?
: 有沒有其他資料型態可以讓他沒有這個限制?
事實上用decimal的話後面的小數點可以拉更長
(但是decimal的值域比single and double小很多)
然而你的算式會用到次方運算
這必須先轉成double才能計算
所以用decimal無意義
so..
前一篇推文裡有說
這你可能要去找人家寫好numeric library來用
或是自己找演算法來implement囉
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 220.133.110.47
※ 編輯: GreatShot 來自: 220.133.110.47 (11/23 09:30)
推
11/23 14:15, , 1F
11/23 14:15, 1F
推
11/23 18:43, , 2F
11/23 18:43, 2F
討論串 (同標題文章)
本文引述了以下文章的的內容：
完整討論串 (本文為第 2 之 2 篇)：
Visual_Basic 近期熱門文章
PTT數位生活區 即時熱門文章
