[運算] 32767 這個值 代表的意義

看板MATLAB作者 (LONGTED)時間11年前 (2014/07/09 02:51), 編輯推噓2(202)
留言4則, 3人參與, 最新討論串1/1
我有一個非常大的矩陣 10幾萬列 x 10 幾萬行 我寫一個簡單的程式 針對 每一行的值相加 結果得出 有很多行相加的結果 32757 問題是不可能 這麼剛好 因為每個值都不依樣 有正有負 加出來卻是依樣值 所以想請問一下32757 在 matlab 中有代表特殊的意思嗎 比方說overflow 因為32757 剛好是(2^15-1) -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.168.183.175 ※ 文章網址: http://www.ptt.cc/bbs/MATLAB/M.1404845475.A.36C.html

07/09 03:35, , 1F
MATLAB int16的最大值...
07/09 03:35, 1F

07/09 03:36, , 2F
a = 32768; int16(a) => ans = 32767
07/09 03:36, 2F

07/10 13:50, , 3F
天堂的正義值
07/10 13:50, 3F

07/10 14:22, , 4F
推樓上XDDDDDD
07/10 14:22, 4F
文章代碼(AID): #1Jl3sZDi (MATLAB)
文章代碼(AID): #1Jl3sZDi (MATLAB)