固定小数点で0.1？

質問

10進から、2進数、16進数に変換するのによくわからないことがあります。
固定小数点で0.1はどのように表せるのでしょうか？
どなたかわかりやすく教えてください。お願いします。

回答No.2

haporun

固定小数点型としては、VC++ではCurrencyやDecimalが構造体、クラスとして用意されています。
固定小数点数は、整数の情報と小数点がどの数字と数字の間にあるかという情報を記録します。

自分で作るとしたら

struct FIXED_DECIMAL{

int num, digit;

};

がnum*10^digitをあらわすような感じ。

回答No.1

takebou

２進数で考えると、整数の場合、２の０乗、２の１乗、２の２乗・・・となりますよね。
固定小数も考え方は同じで、２の－１乗、２の－２乗・・・となります。
８ビットで考えると、
＋０．５なら、　01000000
＋０．２５なら、00100000
＋０．１２５なら、00010000
負の数なら、これらの数字の２の補数を取れば良いだけです。
つまり、０．１ちょうどという数は表せません。

お礼

あるプログラムでの閾値で0.1を使おうとしたらこのような問題にぶつかりました。
考え直して見ます。
ありがとうございました。