看板 [ ASM ]
討論串[問題] 定點數運算(Q格式)
共 2 篇文章
內容預覽： 開啟 | 關閉 | 只限未讀
首頁
上一頁
1
下一頁
尾頁
#1
[問題] 定點數運算(Q格式)
推噓1(1推 0噓 8→)留言9則，0人參與, 最新作者scrush (阿慶)時間14年前 (2010/12/21 12:09), 編輯資訊
1
0
0
內容預覽:
這題可能有點牽涉韌體的範疇,請問一下,如果使用Q格式來做定點數運算,是不是乘上. 一個值量化之後,到最後在除上同樣倍數的值除回來就行了?比方說我用Q15的格式來. 對0.5做運算,得到的值是4000H,到最後是不是除上2的負15次方就算還原了?. 可是要用什麼方法驗證數值有確定轉換成功?. ex..
(還有72個字)
#2
Re: [問題] 定點數運算(Q格式)
推噓0(0推 0噓 0→)留言0則，0人參與, 最新作者iamlouis (２塊錢立頓紅茶包)時間14年前 (2010/12/25 06:58), 編輯資訊
0
0
0
內容預覽:
Q 格式轉換的過程中, 容易有 overflow 和 underflow 的問題,. 以 i = i / 32678 來說, 因為是做 integer 除法運算, 所以小數的部份就會捨棄了.. 所以, 可以先將 32678 轉成 float, 那麼就會進行 float 的除法.. 底下是稍微 gen
(還有621個字)
首頁
上一頁
1
下一頁
尾頁