『浮動小数点』についての検索結果

『浮動小数点』に関連する質問・疑問一覧

次へ ]
1212件中 1~10件目
解決

浮動小数点表現

2^{24}を32bit整数表現及び32bit(単精度)浮動小数点表現で表せ。 結果は16進数で示せ。 符号ビット:MSB 指数部n:7ビット 仮数部:24ビット という問題があるのですが、 解いてみたものの

質問者:tatsurou-san -日付:2008-06-29 21:10:20 -回答数:5件
解決
画像

浮動小数点について

当方、浮動小数点を勉強しているのですが、 テキストの解説を読んでも理解が出来ません。 正規化とか指数と仮数の意味が分かりません。 そこで質問なのですが、浮動小数点の計算方法を教えて下さい。 IEEE形式の浮動小数点

質問者:wwmomo -日付:2010-11-23 19:56:10 -回答数:4件
解決

OSによる浮動小数点数の解釈と出力の仕組み

現在主流となっているコンピューターのアーキテクチャにおいては、実数表現のために浮動小数点数という手法を用いていますが、浮動小数点数表現された2進数はただの2進数であり、たとえばWindowsのプログラムが浮動小数点数を

質問者:okdummy001 -日付:2011-10-10 20:50:43 -回答数:3件
解決

浮動小数点演算と固定小数点演算の使い分けについて

解説書などには、「浮動小数点は3.14E0の形」や「固定小数点は3.14」などと説明されています。 では、例えば、ごく一般的な32ビットマシンで「3.14 * 45.6」という命令を書いたときに演算されるのは浮動小数点

質問者:aneja -日付:2009-02-22 09:25:06 -回答数:5件
受付

浮動小数点についての問題

浮動小数点についての問題がわからないので 質問させていただきます。 1025と-1を16進数の浮動小数点にしたいのですが どうするのでしょうか?

質問者:leadtec -日付:2008-02-03 09:42:24 -回答数:3件
解決

浮動小数点の比較について

たとえば、以下のコードで、「違う」と表示されるように、浮動小数点の比較に失敗します。 #include <iostream> int main() { float f = 0.1; if (f == 0.1)

質問者:yumeno_kira -日付:2010-11-12 12:56:30 -回答数:4件
カテゴリ:C・C++
締切

固定小数点浮動小数点

電算機の小数点認識に固定小数点浮動小数点というのがあると聞きました。前者は分かるのですが、浮動小数点のWikiとかの記述を見てもあまりピンときませんでした。わかりやすい説明はないでしょうか。

質問者:noname#58125 -日付:2008-04-05 13:24:51 -回答数:3件
カテゴリ:Office系ソフト
解決

浮動小数点について

32ビットの浮動小数点(符号1ビット指数8ビット仮数23ビット)で最小値を求めるにはどういう計算をすればいいのでしょうか?また調べた数値だと最小値 1.175494351E-38 最大値3.402823466E+38の

質問者:79562 -日付:2009-11-04 13:13:09 -回答数:1件
カテゴリ:Windows XP
解決

OleDbDataReaderで単精度浮動小数点項目の取得について

VB.netと(Access OfficeXP版)MDBでプログラミングしています。 DBアタッチは、OleDb関連でやっています。 今、データベース内の単精度浮動小数点の項目(小数点以下2桁設定)が正確に取得できず

質問者:ssi77 -日付:2004-03-01 14:42:01 -回答数:1件
カテゴリ:Visual Basic
解決

浮動小数点』について

最近、ふと『浮動小数点』について疑問を持ちました。 それは『浮動小数点』がどんな場合に役立つのか?という事です。 C言語では標準で『float』型と『double』型がありますよね。 私は昔、C言語を始めたころにテスト

質問者:Oh-Orange -日付:2007-03-14 23:13:27 -回答数:6件
カテゴリ:C・C++
質問の状態から探す
回答あり・回答なしから探す
Q&Aが役に立った数から探す
回答が評価された数から探す

OKWaveのオススメ

教えて弁護士さん!

お金の悩みQ&A特集はこちら