[問題] float 精準度觀念問題

看板C_and_CPP (C/C++)作者lovejomi (JOMI)時間6年前 (2018/09/18 18:29)推噓6(6推 0噓 10→)

留言16則, 3人參與討論串1/4 (看更多)

我理解為什麼float會有誤差值但是今天朋友討論一件事情 if (float_var == 1.0f) 這樣寫到底有什麼錯（我認知是這樣寫變數的值要完全跟1.0 四個byte的memcmp要一樣） 1. 在誤差範圍內 (https://en.cppreference.com/w/cpp/types/numeric_limits/epsilo n) 如果是趨近於1的數字我這樣判斷會失敗導致邏輯錯誤？所以因為這樣條件太嚴苛對於經過運算後的float數值很可能有一點點誤差產生就不成立了？ 2. 如果是要完全的相等 , 我能把一個float 一個byte一個byte判斷是否相等來判斷是不是等值嗎? 例如 typedef union { float value; unsigned char bytes[4]; } IEEE754; IEEE754 one; one.value = 1.0f; IEEE754 target; target.value = input; 然後memcmp 兩者的bytes 還是 float 的== 實作上就是byte compare? 3. 浮點數運算出現誤差，可以理解成當除不盡或是除完小數點超過二進位小數 23位無法表示就會產生誤差？ 4. 因為看不懂std::numeric_limits<T>::epsilon 的那個almost_equal在幹嘛所以找了一下 https://stackoverflow.com/a/17341/588477 這篇的方法好像是有道理但是請看以下測試 https://ideone.com/MH6jJW 我看VC直接寫 #define FLT_EPSILON 1.192092896e-07F // smallest such that 1.0+FLT _EPSILON != 1.0 GCC我用gcc -E -dM 去dump (我不知道為什麼找不到定義???怎麼解釋 https://tinyurl. com/y8heekq8 ) #define __FLT_EPSILON__ 1.19209289550781250000e-7F 奇怪為什麼會是這樣 a. stackoverflow的作法錯了? b. 為什麼會把差值當成相等? c. 到底這個epsilon 最應該用在哪裡呢? d. 是不是把almost_equal當成一個正解才是正確的浮點數比較相等呢？我用以下tool 把 epsilon 看他hex form 反推一下他是2^-23 = 0.00000011920928955078125f乍看之下跟gcc定義一致 https://www.h-schmidt.net/FloatConverter/IEEE754.html 觀念上有些錯誤請大家修正一下謝謝 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.247.37.201 ※ 文章網址: https://www.ptt.cc/bbs/C_and_CPP/M.1537266560.A.860.html ※ 編輯: lovejomi (27.247.37.201), 09/18/2018 18:36:56 ※ 編輯: lovejomi (27.247.37.201), 09/18/2018 18:44:25

→

Sanvean

09/18 19:21, 6年前 , 1^F

09/18 19:21, 1^F

→

Sanvean

09/18 19:24, 6年前 , 2^F

09/18 19:24, 2^F

→

Sanvean

09/18 19:24, 6年前 , 3^F

09/18 19:24, 3^F

→

lovejomi

09/18 19:49, 6年前 , 4^F

09/18 19:49, 4^F

→

lovejomi

09/18 19:49, 6年前 , 5^F

09/18 19:49, 5^F

→

lovejomi

09/18 19:50, 6年前 , 6^F

09/18 19:50, 6^F

※ 編輯: lovejomi (110.28.193.230), 09/18/2018 20:14:20 ※ 編輯: lovejomi (110.28.193.230), 09/18/2018 20:59:20 ※ 編輯: lovejomi (110.28.193.230), 09/18/2018 21:02:52

→

Sanvean

09/18 21:03, 6年前 , 7^F

09/18 21:03, 7^F

→

Sanvean

09/18 21:06, 6年前 , 8^F

09/18 21:06, 8^F

推

eye5002003

09/18 21:08, 6年前 , 9^F

09/18 21:08, 9^F