[問題] 如何直接判斷浮點數運算時的誤差?(贈P幣)

看板Programming作者baobao566 (寶寶)時間6年前 (2018/11/29 08:08)推噓0(0推 0噓 0→)

留言0則, 0人參與討論串1/2 (看更多)

　　為了這個問題困擾了許久，不斷地查資料，查完這個觀念，又看到新的名詞與此題有關聯。以我查到的資料VB.Net在浮點數運算時會將數字以IEEE754來標準來做，預設的浮點數型態是Double，所以是64位，有誤差是因為將他轉成2進制，小數部分如果無限循環，取到53位往最靠近的捨入(Round to nearest)，二進制的這個模式我不太懂，翻資料查到的大概又都是英文...。　　還有一些環境的因素，我看到一個文件上面說編譯器可能會幫你最佳化運算式，例如說x = a+b-a -> x = b，那這題有很多環境的問題，我要如何判斷呢? (出處:https://goo.gl/oAzyNB Compiler Optimization) 　　如果判斷此題需要手算，請問有無快速手算判斷的方法？此題是今年高職技藝競賽的程式設計賽前模擬學科試題，有想過他可能只是出經典範例來考你知不知道浮點數有誤差，如果只是這樣就太好了，但是以防萬一還是有個準確判斷的方法比較安心。 ----更新---- 沒什麼人解答，如果能解決問題者，贈上全部家產稅前350P 下面圖兩題答案分別為Ｃ、Ｄ https://imgur.com/a/zBQ9pjH 22. 執行下列 Visual Basic 程式片段，輸出結果為何? (A) 1 (B) 0 (C) True (D) False Console.WriteLine(1.1 + 1.2 = 2.3) 23. 執行下列 Visual Basic 程式片段，輸出結果為何? (A) 1 (B) 0 (C) True (D) False Console.WriteLine(0.3 - 0.2 = 0.1) -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 163.19.240.54 ※ 文章網址: https://www.ptt.cc/bbs/Programming/M.1543450123.A.1AA.html ※ 編輯: baobao566 (163.19.240.54), 11/30/2018 07:53:04