- ベストアンサー
２進数と１０進数の関係について
saganoの回答
- sagano
- ベストアンサー率54% (12/22)
Excelの内部の扱いにはあまり詳しくないのですが…。 119さんの"浮動小数点"という言葉が実はキーになっています。浮動小数点というのはいわゆる指数表示です。 つまり整数部分と、その数字の一番下の桁が小数点以下あるいは小数点以上第何位にあるのかを分けて記憶してると考えてください(小数点の位置が動くので浮動小数点ですね)。 0.1 という数字は、1 * 10^-1(10のマイナス1乗)と表現できます。これですと、割り切れないということはありませんよね。 最後の最後はDickさんが言うとおりどこかで丸めることになりますが、かなり大きな数や小さな数まで正確に表現することができます。 ちなみに、0.0000001とセルに書いてみてください。1E-07と表示されると思います。これが 1 * 10^-7 という意味を表しています。
関連するQ&A
- 10進数の14.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか？
10進数の14.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか？ 10進数の-7.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか？ 計算方法を教えてください。
- ベストアンサー
- その他([技術者向] コンピューター)
- 実数をＩＥＥＥ規格に基づく浮動小数点の表現法
実数をＩＥＥＥ規格に基づく浮動小数点の表現法で プログラミング表現したいのですがわけがわかりません。 単精度32bitで表現します。 助けてください。お願いします。 （例:実数0.5、ＩＥＥＥ：00111111100000000000000000000） のような形になるようです。
- ベストアンサー
- C・C++・C#
- 浮動小数点数の表現について
浮動小数点数の表現で、このIEEEともう一つの方式の違いは何でしょうか？ 参考書にこう載っていましたが、よく理解できませんでした。 違いを教えてください。 10進数の28をIEEE仕様の浮動小数点数で表示します。 仮数部を2進数に （２８）10 → （１１１００）2 仮数部の正規化 （１１１００）2 ×２ 0 →（１．１１００）2 ×２ 4 指数部をイクセス表記に２ 4 → ２ 131 10進数の28をもう一つの仕様の浮動小数点数で表示します。 仮数部を16進数に （２８）10 → （１Ｃ）16 仮数部の正規化 （１Ｃ）16×16 0 → （０．１Ｃ）16 ×１６ 2
- 締切済み
- 情報処理技術者
- ＩＥＥＥ７５４浮動小数点規格
１４．６２５をＩＥＥＥ７５４浮動小数点規格の単精度（float）の書式（－１）＾ｓ ×１．ｆ×２＾（ｅ-１２７）に直す場合、この値をとりあえず2進数に直すのですが、 １４．６２５＝＋１１１０．１０１となると書いてあったのですが、 １４を二進数に変換すると１１１０になることはわかるのですが、６２５がなぜ、１０１になるのかわかりません。僕自身、単に６２５を計算したら、１０１１１０００１になりました。どう６２５を2進数に変換したらよいですか。
- ベストアンサー
- その他（インターネット・Webサービス）
- 単精度浮動小数点方式、16進数
10進数で22.75で表される値を単精度浮動小数点方式で表現し，それを16進数に変換するとどうなりますか？ 22.75(10)→1.421875 4+127=131=10000011(2) 0.421875=0.011011(2) ここからのやり方教えてください
- ベストアンサー
- 数学・算数
- IEEE754と浮動小数点定数同士の演算について
■質問 浮動小数点の標準規格IEEE754に、浮動小数点定数同士の演算に関する規定はありますか？ ■背景 とあるマイコンで組込みソフト開発をしています。 このマイコン用のコンパイラ(IEEEに準拠)で以下のCソースコードをコンパイルしたところ、コンパイラのバージョン1とバージョン2で演算結果が異なりました。 double d_val = 6.6f * 10.0f; ○コンパイルバージョン1でコンパイルしたソフトの演算結果 →d_valには66.0が代入されました。 ○コンパイルバージョン2でコンパイルしたソフトの演算結果 →d_valには65.999999…(詳細は失念)が代入されました。 コンパイラメーカーに問い合わせたところ、「バージョン1から2へのアップグレードにおいて、浮動小数点定数演算に関連する変更を行ったが、その影響は浮動小数点演算における誤差の範囲内である」との回答でした。 誤差の範囲内であるとはいえ、コンパイラのバージョン違いで演算結果が異なるのは困るので、これがIEEE754規格違反なのであれば、それを根拠にコンパイラメーカーへ対応を求められるのではないかと考えています。 しかし、浮動小数点定数同士の演算結果の正確性についての規定がないのであれば、開発側で対応するしかありません。 いろいろと調べてはいるのですが、これといった情報に行き当たっていないので、こちらで質問させていただきます。どうぞよろしくお願いいたします。
- ベストアンサー
- その他([技術者向] コンピューター)
- 浮動小数点法での２進数変換
浮動小数点法を用いての２進数への変換に関して質問です。 １０進数の(-0.0001)を浮動小数点表示を用いて２進数に変換しなさいという問題が全くわかりません。 どなたか詳しく解説してください。お願いします。
- ベストアンサー
- その他([技術者向] コンピューター)
- 浮動小数点変換
(1)次の数値をIEEE754単精度形式で正規化された浮動小数点に変換し、結果を8桁の16進数で表記しなさい。 (a)0.5 0.5を二進数で表すと0.1 0.1*2^0であるから 0 00000000 10000000000000000000000 (b)1.0 1.0を二進数で表すと1.0 0.1*2^1であるから 0 10000000 10000000000000000000000 (c)1.25 1.25を二進数で表すと1.010 0.101*2^1であるから 0 10000000 10100000000000000000000 浮動小数点への変換、あってますでしょうか？ また結果を8桁の16進数で表記とありますが 0.5だったら16進数で表すと0.9?これを８桁*16^なんとか乗で表すということでしょうか？
- ベストアンサー
- ハードウェア・サーバー
- 二進数の循環小数を十進数に変換する方法
二進数の循環小数を十進数に変換する方法が分かりません。 サイトも探してみたのですが、十進の循環を二進数に変換するものは見つかっても、逆は見つからなくて・・・ 教えていただけませんでしょうか、よろしくお願いします。
- ベストアンサー
- 数学・算数
お礼
わかりやすい浮動小数点の説明ありがとうございます