- ベストアンサー
16ビットの符号付固定小数点の使い方について
16ビットの符号付固定小数点について 最上位(15)ビットが符号ビットで14~0ビットが少数部という データフォーマットだった場合、-0,25を表すとしたら、 0.25に符号ビットをセットした値=0xA000( 1 010 0000 0000 0000 ) になるという考え方は正しいでしょうか
- みんなの回答 (6)
- 専門家の回答
質問者が選んだベストアンサー
その他の回答 (5)
- foomufoomu
- ベストアンサー率36% (1018/2761)
- foomufoomu
- ベストアンサー率36% (1018/2761)
- Tasuke22
- ベストアンサー率33% (1799/5383)
- neKo_deux
- ベストアンサー率44% (5541/12319)
- SPROCKETER
- ベストアンサー率26% (2036/7608)
関連するQ&A
- 固定小数点、符号ビットを用いた方法
固定小数点、符号ビットを用いた方法 -0.1234や-12.3456などの10進数を2進数に変換する場合、固定小数点、符号ビットをどのように設定してよいのかわかりません。
- 締切済み
- C・C++・C#
- 32ビットの浮動小数点について
32ビットの浮動小数点(符号1ビット指数8ビット仮数23ビット)で非正規表現をもとめるには例えば(符号0指数0仮数1.01101)はどういう計算をすれば良いのでしょうか?
- 締切済み
- Windows XP
- 浮動小数点の問題です。
10進数+0.375を浮動小数点で記憶させ、その記憶領域のダンプリストを読み取ると、 0.375は16進数で(1)に、 -1は16進数で(2)となる。 答えは(1)は7F00、(2)8600です。 この2つの問題の途中式と解説をお願いします。 バイト型:バイト数は1バイト,負の補数は2の補数で表す 整数型:バイト数は2バイト,負の補数は2の補数で表す 浮動小数点:バイト数は2バイト,符号1ビット,指数部5ビット,仮数部10ビット ビット番号0:符号部.仮数部の符号が入っている.0なら正,1なら負 ビット番号1-5:指数部.負の値を2の補数で表す ビット番号6-15:仮数部.ビット番号6を小数点第1位とする仮数部の小数点以下の絶対値が、正規化された2進数で入っている 正規化とは,仮数部が2進数で0.1以上1.0未満になるよう指数部を増減する操作である
- ベストアンサー
- 科学
- 符号付の整数8ビット…
教えてください。 符号付整数8ビットの2の補数で表現するときの11101111-11110011の計算を2進数で示すときの途中の計算方法を教えてください。 10進数のー13を8ビットの固定小数点(負数は2mの補数形式)の途中の計算方法も教えてください。
- 締切済み
- その他([技術者向] コンピューター)
- "2進数"で負の小数点の表し方?
2進数で、負の整数の表現方法は分かるのですが 小数点となると分かりません。 質問(1) ・上位1bitを符号ビットとする4bitで2進数を表すと 10進数 → 2進数 7 → 0111 1 → 0001 0 → 0000 ー1 → 1111 ー8 → 1000 さらに、小数を表す1bit追加すると 0.5 → 00001 ? -0.5 → 11111 ? 上記であってますか? そして、0.75は?000011? 以上、宜しくお願い致します。
- ベストアンサー
- 数学・算数
- 浮動小数点は32ビットとは限らないのですか?
http://oshiete1.goo.ne.jp/kotaeru.php3?q=868029 の質問みて自分で実際にやってみました。 そしたら、仮数部が24ビット超えてるじゃないですか! ビット数が変わることもあるとしても 符号部と指数部のビット数は固定ですよね。 変わるのは仮数部のみですか?
- ベストアンサー
- その他([技術者向] コンピューター)
- 浮動小数点の精度と範囲からすると、「0」はどうなるのでしょうか
IEEE754の単精度による浮動小数点表現(符号部1ビット、指数部8ビット、仮数部23ビット)ですと、その表現できる範囲が数値の絶対値で、2^(-126)=1.2×10^(-38)から(2 - 2^(-23))×2^(127)=3.4×10^(38)になりますが、数値の「0」はどう表現されるのでしょうか。たとえば、C言語などで、変数の値が「0」の場合、コンピュータ内部の2進数表現はどのようになっているのでしょうか。よろしくお願いいたします。
- ベストアンサー
- その他([技術者向] コンピューター)
- 浮動小数点表現
2^{24}を32bit整数表現及び32bit(単精度)浮動小数点表現で表せ。 結果は16進数で示せ。 符号ビット:MSB 指数部n:7ビット 仮数部:24ビット という問題があるのですが、 解いてみたものの、答えもないのであっているのか分かりません。 以下の答えで合っているでしょうか? また、合っていなかったら、どのように解くのか教えていただけませんか? 整数表現 0100 0000H 浮動小数点 0100 1000 0100 0000 0000 0000 0000 0000
- ベストアンサー
- その他([技術者向] コンピューター)
- 浮動小数点演算と固定小数点演算の使い分けについて
解説書などには、「浮動小数点は3.14E0の形」や「固定小数点は3.14」などと説明されています。 では、例えば、ごく一般的な32ビットマシンで「3.14 * 45.6」という命令を書いたときに演算されるのは浮動小数点演算なのか、固定小数点演算なのかがわかりません。例えばIntelのx86CPUは、内部にFPUを持っているそうですが、この場合は「3.14 * 45.6」は、内部では必ず浮動小数点演算になっているということなのでしょうか? 「3.14 * 45.6」を「3.14E0 * 4.56E1」と書いた場合にしか浮動小数点演算されないということではないと思っているのですが、実際の浮動小数点演算と固定小数点演算の内部的な切り替えがわかりません。 理解が足りなくて、おかしな質問になっていましたら、その点もご指摘いただければうれしいです。
- ベストアンサー
- その他([技術者向] コンピューター)
- オーディオフォーマット 符号付整数、浮動小数数点
CoreAudio Framework でオーディオフォーマットを見ているのですが、 AudioStreamBasicDescription.mFormatFlags には、 kAudioFormatFlagIsSignedInteger (符号付整数)と kAudioFormatFlagIsFloat (浮動小数点)を 同時にフラグをたてられてしまいますが、 そのようなフォーマットのオーディオデータは成立するのでしょうか? 他のフラグは インターリーブか、でないか ビッグエンディアンか、でないか のように一つのフラグで間に合っていますが... よろしくお願いします。
- ベストアンサー
- Mac