Re: [.NET] 程式計算有點問題………
※ 引述《sanbis (方正)》之銘言：
: ※ 引述《sanbis (方正)》之銘言：
: : input = Val(Me.TextBox1.Text)
: : da = input / 524288
: : mda = input Mod 524288
: : Me.Label1.Text = Hex(da)
: : 推 LPH66:我懷疑是四捨五入掉了... 02/15 21:02
: : → LPH66:試試用整數除 \ 02/15 21:03
: 剛剛測試了一下，
: 把 mod 出來的數值也顯示出來，
: 發現一點古怪的問題………
: 1548576 mod 524288 的數值應該是商 2 餘數 500000
: 但是計算以後出來的卻是商 3 餘數 50000
我也測試了一下
發現沒有問題啊
實驗一：用整數除 input \ 524288
Dim input As Double = Val(Me.TextBox1.Text)
Dim da As Integer = input \ 524288
Dim mda As Integer = input Mod 524288
MsgBox(da & " " & mda)
結果：
da = 2
mda = 500000
如果用 input / 524288 會出現一個問題
實驗二：
Dim input As Integer = Val(Me.TextBox1.Text)
Dim da As Double = input / 524288
Dim mda As Integer = input Mod 524288
MsgBox(da & " " & mda)
結果：
da = 2.95367431640625
mda = 500000
我想你會出現 da = 3 是因為 你讓 da as integer
所以自動做了 CInt(2.95367431640625) 這個動作
餘數部分我看是沒問題 我猜是你的 lebel 長度不夠長吧
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 61.63.21.246
推
02/16 20:02, , 1F
02/16 20:02, 1F
→
02/16 21:45, , 2F
02/16 21:45, 2F
→
02/16 21:46, , 3F
02/16 21:46, 3F
推
02/17 12:26, , 4F
02/17 12:26, 4F
→
02/17 12:26, , 5F
02/17 12:26, 5F
推
02/17 12:28, , 6F
02/17 12:28, 6F
討論串 (同標題文章)
本文引述了以下文章的的內容：
完整討論串 (本文為第 3 之 3 篇)：
Visual_Basic 近期熱門文章
PTT數位生活區 即時熱門文章
