- 締切済み
Access 倍精度浮動小数点型について。。。
- みんなの回答 （3）
- 専門家の回答
みんなの回答
というより、通貨型がパフォーマンス的に見てもいいらしいです。 テストはした事ないんですが、小数点を持つ必要がなければ、長整数でもいいでしょうね。
- Tetsuro_M
- ベストアンサー率19% (4/21)
丸めについては、いま少し情報が欲しいところですが、８桁以上の数値については、Ａｃｃｅｓｓ２０００ならば、ｄｅｃｉｍａｌをつかってもいいのでは？
何で丸められるかはほかの詳しい方にお任せするとして、どうしても必要な場合を除いて浮動小数点はヤメた方がいいですよ。 小数点以下4桁以上必要になる事がまずないので自分は通貨型を使っています。
関連するQ&A
- テーブルに小数点以下の値を入れたい場合
アクセスのテーブルに0.001と入力したい場合、 データ型を数値型にし、 フィールドサイズは 単精度浮動小数点型と倍精度浮動小数点型では どちらを選べばいいのでしょうか？ どちらも小数点の入力ができました。
- ベストアンサー
- オフィス系ソフト
- 浮動小数点変換
(1)次の数値をIEEE754単精度形式で正規化された浮動小数点に変換し、結果を8桁の16進数で表記しなさい。 (a)0.5 0.5を二進数で表すと0.1 0.1*2^0であるから 0 00000000 10000000000000000000000 (b)1.0 1.0を二進数で表すと1.0 0.1*2^1であるから 0 10000000 10000000000000000000000 (c)1.25 1.25を二進数で表すと1.010 0.101*2^1であるから 0 10000000 10100000000000000000000 浮動小数点への変換、あってますでしょうか？ また結果を8桁の16進数で表記とありますが 0.5だったら16進数で表すと0.9?これを８桁*16^なんとか乗で表すということでしょうか？
- ベストアンサー
- ハードウェア・サーバー
- 浮動小数点数型
単精度浮動小数点型と倍精度浮動小数点数型、それぞれ値がとりうる範囲を教えてください。 単精度浮動小数点型 負の値は -3.4028235E+38 ～ -1.401298E-45、 正の値は 1.401298E-45 ～ 3.4028235E+38 の範囲の値 倍精度浮動小数点数型 負の値は -1.79769313486231570E+308 ～ -4.94065645841246544E-324、 正の値は 4.94065645841246544E-324 ～ 1.79769313486231570E+308 の範囲の値 とは記述してあるのですが、実際に小数１桁なら整数部はどのくらいの範囲の値がとれるのか、皆目わかりません。 どうか、わかりやすく教えてください。 よろしくお願い致します。
- ベストアンサー
- その他（プログラミング・開発）
- 単精度浮動小数点方式、16進数
10進数で22.75で表される値を単精度浮動小数点方式で表現し，それを16進数に変換するとどうなりますか？ 22.75(10)→1.421875 4+127=131=10000011(2) 0.421875=0.011011(2) ここからのやり方教えてください
- ベストアンサー
- 数学・算数
- 浮動小数点の精度と範囲からすると、「0」はどうなるのでしょうか
IEEE754の単精度による浮動小数点表現（符号部1ビット、指数部8ビット、仮数部23ビット）ですと、その表現できる範囲が数値の絶対値で、2＾(-126）＝1.2×10＾(-38）から（2 - 2＾(-23））×2＾(127)＝3.4×10＾(38）になりますが、数値の「0」はどう表現されるのでしょうか。たとえば、C言語などで、変数の値が「0」の場合、コンピュータ内部の2進数表現はどのようになっているのでしょうか。よろしくお願いいたします。
- ベストアンサー
- その他([技術者向] コンピューター)
- 浮動小数点とIEEE754
初めまして。 現在、浮動小数点について調べています。 ＃質問カテゴリ、間違っていたらすみません。 色々調べていると、こんなサイトを見つけました。 http://www.jtw.zaq.ne.jp/kayakaya/new/kihon/text/fudo.htm 分かり易い解説だったんですが、疑問も湧いてきました。 サイトの内容は、0.375を浮動小数点に直すという内容なんですが 汎用型の時は『0.11 × 2の-1乗』 IEEE754の時は『1.1 × 2の-2乗』 で計算しています。 Q1) 汎用とIEEEの違いは『127』を足すだけだと思っていたのですが 『2の-n乗』の直し方も異なるのでしょうか。 もう一つ質問です。 整数入力をIEEE754に準拠したフォーマットで出力させるデジタル回路を作成しています。 出力形式は32bit or 64bitです。（単精度か倍精度） そこで悩んでいるのが入力のbit数とその内訳です。 入力bitは『符号・整数・小数』で形成されているかと思うのですが 符号以外のbit内訳が分かりません。 Q2) 単精度／倍精度、それぞれの入力範囲bitと、その内訳を教えて頂けないでしょうか。 （単精度：合計16bit ⇒ 符号1bit、整数7bit、小数8bit）みたいな感じでお願いします。 宜しくお願いします。 分かりにくい質問でしたらご指摘下さい。
- 締切済み
- その他([技術者向] コンピューター)
- Accessクエリの整数型と単精度型の演算について
Accessのクエリで長整数型と単精度浮動小数点型を 加算すると答えが一致しません。理由を知っている人いますか？ ちなみに長整数型と倍精度浮動小数点型を加算したときは答えが一致します。 浮動小数点は誤差がつきものなのは分かりますが、 確か単精度浮動小数点型は有効桁数7桁までのはず。 下記の例では問題ないように見えます。 (例)長整数型と単精度浮動小数型の演算：1000+0.20=1000.20000000298 長整数型と倍精度浮動小数型の演算：1000+0.20=1000.2 それではよろしくお願いします。
- 締切済み
- その他MS Office製品
- 「浮動小数点表示」と「丸め」について
数値解析についての質問です。 「23.49を有効数字4桁の浮動小数点表示で書け」という問題があるときは 0.2349 * 10^2 と答えるのが正しいのでしょうか。 つまり「浮動小数点表示で答えよ」とあれば、 0.○○○... * 10^○の形で書けば良いのでしょうか。 また、数値の丸めの仕方に関する質問なのですが、教科書に以下のような記述がありました。 k+1桁以降の数を切り捨てる a.この切り捨てられた数が第k桁の単位の半分より小さいときは、第k桁の数はそのままにする。 b.もし半分より多きときには第k桁の数に1を加える c.この切り捨てられた数が第k桁のちょうど半分のときには最も近い偶数に丸める とあるのですが、その後の記述で 「1.2535をそれぞれ小数点以下3桁、2桁、1桁で丸めると、1.254,1.25,1.3が得られる」また「小数第3位以下の情報なしで、1.25を1桁で丸めると1.2になる」とあるのですが、 後者が1.2になるのは理解できるのですが、最初の規則に則ると前者も1.2になるように思うのですが、何故1.3になるのでしょうか。 以上の規則に則った上で以下の問題に答えてみました。 問.-89.216618, 500000, -0.002213675を丸めて有効数字5桁の浮動小数点表示で書け 僕の答え -0.89217 * 10^2 0.50000 * 10^6 -0.22137 * 10^-2 というのは合っていますでしょうか。 質問が多くて大変恐縮ですが、解説、ご指摘をお願いします。 よろしくお願いします。
- ベストアンサー
- 数学・算数
- Access2000 小数点以下を２桁表示
こんにちわ。 アクセスであるテーブルを元にフォームを作成しています。 元データは「１２３．４５６７８９０」となっています。 （倍精度浮動小数点型です。） このデータをフォーム上では「１２３．４５」まで表示したいのですが上手く出来ません。プロパティーの書式で 小数点表示桁数を「２」にしてもダメでした。 どうしたものでしょうか？ ご教授ください。。
- 締切済み
- オフィス系ソフト
お礼
回答ありがとうございます。 ８桁以上の数値はやっぱり通貨型で定義ですかね。