『固定小数点』についての検索結果
- OKWave >
- 『固定小数点』についての検索結果
『固定小数点』に関連する質問・疑問一覧
適合順
最新順
1001を固定小数点数で表すといくらになるか？という問いに対してですが、(1)全ビットを反転させる（0110） (2)+1で（0111）=7 (3)したがって （１００１）＝－７になります。←（検証）-8+1=-7
あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。 以下のようなプログラムがあります
解説書などには、「浮動小数点は3.14E0の形」や「固定小数点は3.14」などと説明されています。 では、例えば、ごく一般的な32ビットマシンで「3.14 * 45.6」という命令を書いたときに演算されるのは浮動小数点
電算機の小数点認識に固定小数点と浮動小数点というのがあると聞きました。前者は分かるのですが、浮動小数点のＷｉｋｉとかの記述を見てもあまりピンときませんでした。わかりやすい説明はないでしょうか。
学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。 課題：11051120 この数を３２bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数とは何か (2)数値を
固定小数点0.00128を浮動小数点表示すると0.128×10＾-2と学校で習ったのですが、1.28×10＾-1や128×10＾-5としてはいけないのでしょうかどなたか教えてください。
10進から、2進数、16進数に変換するのによくわからないことがあります。 固定小数点で0.1はどのように表せるのでしょうか？ どなたかわかりやすく教えてください。お願いします。
固定小数点、符号ビットを用いた方法 -0.1234や-12.3456などの10進数を2進数に変換する場合、固定小数点、符号ビットをどのように設定してよいのかわかりません。
iアプリで確立を計算したいのですが、浮動小数点が使えないので困っています。 整数演算で浮動小数点を扱うクラスを自作するしかないのでしょうか？ 使えそうなクラスなど、ご存知でしたら教えてください。
こんにちは。 C言語での浮動小数点数において、 1.2345e+03のような表記は、指数表記と呼ばれますが、逆に、 1234.5のような表記は、何と呼ばれるのでしょうか?
