[問題] 關於浮點數的運算
看板C_and_CPP (C/C++)作者onlywig (環島旅行ing)時間16年前 (2009/07/07 22:59)推噓3(3推 0噓 13→)留言16則, 6人參與討論串1/4 (看更多)
每次來這問問題都很不好意思~~
因為總覺得我問的問題都很淺...卻又常讓我的腦袋困擾很久
問題很短,如下:
我是用了double的長浮點數來運算 (因為資料量很大且要很精準)
但我發現到兩個浮點數相除竟然精準度有誤差....
EX:
8/1000000 它顯示的結果為0.000014 = =....
我有爬文過 好像也沒人問類似這樣的問題~
翻書是有說到用fabs的指令配合限定範圍 但我的8與1000000是已知的
有點不知道要怎放進去那個指令..
難道真的沒有辦法很精確嗎???
因為我是跑通訊系統的模擬 是希望沒有計算上的誤差
還有 我用的是DEV-C...
希望有人能解決我的疑惑了~ 感謝萬分!!
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 112.104.40.182
→
07/07 23:20, , 1F
07/07 23:20, 1F
→
07/07 23:24, , 2F
07/07 23:24, 2F
→
07/07 23:34, , 3F
07/07 23:34, 3F
→
07/07 23:35, , 4F
07/07 23:35, 4F
→
07/07 23:35, , 5F
07/07 23:35, 5F
→
07/07 23:36, , 6F
07/07 23:36, 6F
→
07/07 23:37, , 7F
07/07 23:37, 7F
→
07/07 23:39, , 8F
07/07 23:39, 8F
→
07/08 00:09, , 9F
07/08 00:09, 9F
→
07/08 00:09, , 10F
07/08 00:09, 10F
→
07/08 00:34, , 11F
07/08 00:34, 11F
推
07/08 00:38, , 12F
07/08 00:38, 12F
→
07/08 00:40, , 13F
07/08 00:40, 13F
→
07/08 00:41, , 14F
07/08 00:41, 14F
推
07/08 00:55, , 15F
07/08 00:55, 15F
推
07/08 01:14, , 16F
07/08 01:14, 16F
討論串 (同標題文章)
C_and_CPP 近期熱門文章
PTT數位生活區 即時熱門文章