[閒聊] SONY手機內建計算機支援的位數

看板Sony-style作者jennychuli (笑傲江湖)時間12年前 (2014/05/02 13:32)推噓2(2推 0噓 7→)

留言9則, 4人參與討論串1/1

前幾天用計算機在算 0.693147181 - 0.693147375 算出來的結果居然是 -1.94e-7 ???? 當下以為計算機壞了於是又再按一次，還是出現一樣的結果後來想想是不是計算位數有限制的關係於是開始試了很多組數字來計算 12345678901 - 1 = 1.234568e10 (正確值：12345678900) 98765432101 - 1 = 9.876543e10 (正確值：98765432100) 0.123456789 + 1 = 1.12345679 (正確值：1.123456789) 從上面這些看來，似乎超過顯示位數的部分會自動四捨五入？而且結果顯示的e應該不是指一般的自然數而是代表10的x次方？看樣子應該是只支援10位數，且小數點也算一位以上都是新版計算機(白色背景圓形按鍵)算出來的結果但用舊版計算機(方形按鍵，橫向出現工程模式)計算 12345678901 - 1 = 12345678900 98765432101 - 1 = 98765432100 0.123456789 + 1 = 1.123456789 完全都是正常數值，沒有出現科學記號和自動四捨五入再試幾個數字發現，舊版支援到12位數，而小數點也算一位好奇怪喔，居然新版的支援位數比舊版的少？？照理說新的應該要越來越好啊，怎麼反而退步了？？而且新手機螢幕較大，應該也要支援更多位數啊我的舊手機螢幕直放只能顯示6位數，卻可以計算到12位數新手機螢幕直放可顯示11位數，卻只能計算到10位數有人有發現這個奇怪的問題嗎？ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.227.165.9 ※ 文章網址: http://www.ptt.cc/bbs/Sony-style/M.1399008724.A.B10.html ※ 編輯: jennychuli (36.227.165.9), 05/02/2014 13:32:41