[問題] 定點數運算(Q格式)
這題可能有點牽涉韌體的範疇,請問一下,如果使用Q格式來做定點數運算,是不是乘上
一個值量化之後,到最後在除上同樣倍數的值除回來就行了?比方說我用Q15的格式來
對0.5做運算,得到的值是4000H,到最後是不是除上2的負15次方就算還原了?
可是要用什麼方法驗證數值有確定轉換成功?
ex.
signed short i = 0x4000; (假設i是0.5,變成Q15後的值)
i = i/32768;
這樣做i就已經視同有轉換過了嗎?還是說我的步驟有錯呢?
懇請指教,謝謝!
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 114.37.174.87
→
12/21 21:59, , 1F
12/21 21:59, 1F
→
12/21 22:00, , 2F
12/21 22:00, 2F
→
12/21 22:01, , 3F
12/21 22:01, 3F
謝謝大大指點,已修改過
※ 編輯: scrush 來自: 61.230.197.159 (12/21 22:43)
→
12/21 23:01, , 4F
12/21 23:01, 4F
→
12/21 23:03, , 5F
12/21 23:03, 5F
→
12/21 23:57, , 6F
12/21 23:57, 6F
→
12/21 23:57, , 7F
12/21 23:57, 7F
推
12/22 00:38, , 8F
12/22 00:38, 8F
→
12/22 00:39, , 9F
12/22 00:39, 9F
討論串 (同標題文章)
ASM 近期熱門文章
PTT數位生活區 即時熱門文章
