討論串[問題] IEEE754 Float正規化的最小正數
共 2 篇文章
首頁
上一頁
1
下一頁
尾頁

推噓2(2推 0噓 0→)留言2則,0人參與, 5年前最新作者LPH66 ( )時間5年前 (2020/06/21 06:00), 編輯資訊
0
0
0
內容預覽:
因為精確度和最小正數是兩回事. 你應該知道浮點數其實就只是二進位的科學記號而已. 精確度其實就是科學記號概念當中的有效位數這回事. 或者講精確一點就是我在 #1RePAc02 提到的 ulp 這個詞的意思. 而最小正數只不過是科學記號的次方數達到最小的數字而已. 另外, IEEE754 float
(還有472個字)

推噓0(0推 0噓 0→)留言0則,0人參與, 最新作者a27839579時間5年前 (2020/06/21 04:39), 5年前編輯資訊
0
0
0
內容預覽:
各位大大. 關於float的精度問題. 課本上說float的精度在小數點後六位,也就是說最小可以表示到0.000001(10^-6). 但IEEE754的格式,最小的正數如下. 0 00000000 00000000000000000000000. 既為1*2^-127. 其結果化成10進位為2^-
(還有119個字)
首頁
上一頁
1
下一頁
尾頁