[問題] 四捨五入的問題已回收

看板MATLAB作者 (脫脂牛奶)時間16年前 (2009/05/17 17:48), 編輯推噓1(102)
留言3則, 1人參與, 最新討論串1/1
譬如說 a實際上等於0.6666666 b實際上等於0.2222222 在windows command上打 a會出現0.6667 b 0.2222 打a-b會出現0.4444 但我想要a-b會出現0.4445 也就是a-b是以0.6667-0.2222來運算 而不是以0.6666666-0.2222222來運算 請問這種四捨五入的方法如何解決 -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 58.115.24.5

05/17 18:11, , 1F
round(a*10000)/10000-round(b*10000)/10000
05/17 18:11, 1F

05/17 18:13, , 2F
一開始的0.6667是顯示位數給的錯覺
05/17 18:13, 2F

05/17 18:14, , 3F
請手動執行四捨五入
05/17 18:14, 3F
文章代碼(AID): #1A3zrdog (MATLAB)
文章代碼(AID): #1A3zrdog (MATLAB)