- ベストアンサー
２＾１３３の１０進表示は？
lichtの回答
- licht
- ベストアンサー率32% (57/174)
素朴な疑問です。 そもそも1の位が0になる数は、必ず約数に5を持つはずで、2のべき乗ではないと思います。
関連するQ&A
- 電卓の表示（いつもは０桁、割り切れないとき２桁）
キャノンのHS-1220TUGという電卓使ってます。 計算後の答えなんですが、割り切れないときだけ小数点２桁表示（３桁目を四捨五入）で、それ以外は０桁に表示するやり方ありませんか？ いつもはFで四捨五入してるんですが、これだといつも小数点２桁まで表示されちゃうから見づらいんです。
- 締切済み
- 数学・算数
- 計算の丸め誤差の解消について
プログラム上で計算するときに丸め誤差が発生し、困っています。 丸め誤差が発生している計算は -0.004+0.006+0.002 なのですが、 -0.004+0.006+0.002=0 となるところが、 =8.47E-09 となってしまっています。 オーダーの異なる計算ではないにもかかわらず、どうして誤差が発生するのかが理解できず困っています。 上の数値（左辺の方）の算出は、10^(-1)のオーダーの数値から計算されています。 多分、浮動小数点を使っているからだろうと考えているのですが、どのように解消したらよろしいでしょうか？ 固定小数点を用いると、浮動小数点より誤差が少ないとありましたが、Ｃで固定小数点を用いる方法もわからないです。 よろしくお願いします。
- ベストアンサー
- C・C++・C#
- Accessクエリの整数型と単精度型の演算について
Accessのクエリで長整数型と単精度浮動小数点型を 加算すると答えが一致しません。理由を知っている人いますか？ ちなみに長整数型と倍精度浮動小数点型を加算したときは答えが一致します。 浮動小数点は誤差がつきものなのは分かりますが、 確か単精度浮動小数点型は有効桁数7桁までのはず。 下記の例では問題ないように見えます。 (例)長整数型と単精度浮動小数型の演算：1000+0.20=1000.20000000298 長整数型と倍精度浮動小数型の演算：1000+0.20=1000.2 それではよろしくお願いします。
- 締切済み
- その他MS Office製品
- 「浮動小数点表示」と「丸め」について
数値解析についての質問です。 「23.49を有効数字4桁の浮動小数点表示で書け」という問題があるときは 0.2349 * 10^2 と答えるのが正しいのでしょうか。 つまり「浮動小数点表示で答えよ」とあれば、 0.○○○... * 10^○の形で書けば良いのでしょうか。 また、数値の丸めの仕方に関する質問なのですが、教科書に以下のような記述がありました。 k+1桁以降の数を切り捨てる a.この切り捨てられた数が第k桁の単位の半分より小さいときは、第k桁の数はそのままにする。 b.もし半分より多きときには第k桁の数に1を加える c.この切り捨てられた数が第k桁のちょうど半分のときには最も近い偶数に丸める とあるのですが、その後の記述で 「1.2535をそれぞれ小数点以下3桁、2桁、1桁で丸めると、1.254,1.25,1.3が得られる」また「小数第3位以下の情報なしで、1.25を1桁で丸めると1.2になる」とあるのですが、 後者が1.2になるのは理解できるのですが、最初の規則に則ると前者も1.2になるように思うのですが、何故1.3になるのでしょうか。 以上の規則に則った上で以下の問題に答えてみました。 問.-89.216618, 500000, -0.002213675を丸めて有効数字5桁の浮動小数点表示で書け 僕の答え -0.89217 * 10^2 0.50000 * 10^6 -0.22137 * 10^-2 というのは合っていますでしょうか。 質問が多くて大変恐縮ですが、解説、ご指摘をお願いします。 よろしくお願いします。
- ベストアンサー
- 数学・算数
- Accessの小数点以下の表示について
Access2002にて、クエリの結果やフォームのテキストボックス等で 見た目では「9344」と表示されているのに、カーソルを合わせると 「9343.99979114532」という風に表示されてしまうのを 防ぎたいのですが、どうやったらいいのでしょうか？ 実はこの結果の小数点を切り捨てているのですが、 そうすると「9343」となってしまいます。 （ちなみに上記例の場合、クエリの計算式としては 29200×0.32と計算されており、電卓をたたいても「9344」の はずですが、上の様に表示されてしまいます。） また普通に計算して小数点の出るものは切り捨てたいので なんとかして裏側で「9343.99979114532」のように計算されて しまっているのを防ぎたいのですが ご存じの方教えて下さい。
- ベストアンサー
- オフィス系ソフト
- javascriptで浮動小数点の問題
javascriptで浮動小数点の問題を解決しつつevalをつかった電卓を作ることはできませんか？ ＞＞＞ //-が欲しい場合 var array2 = str.match(/-?[0-9]+\.?[0-9]*/g); for(var i = 0; i < array2.length; i++) { console.log(parseFloat(array2[i])); } な感じで数値を抜き出し 計算記号+-*/に従ってmathのメソッドを順次呼び出す関数を作成すればいいのです。 計算記号については抜き出した数値を文字列として数えれば抜き出せるはず。 このように教えてもらいましたが、正直難しすぎてさっぱりわかりません。 evalでは浮動小数点の問題は解決できないのでしょうか？ 便利なライブラリなどもないでしょうか？
- 締切済み
- JavaScript
- Access97 Int関数
小数点の切り捨てをしたくてクエリーで 以下の計算をしてみました。 =Int([個数]*[単価]) ところが以下の数値で計算させると結果が 50232となると思うのですが50231となってしまいます。 数量：460 単価：109.2 結果：50231（電卓で計算すると50232） 結果が小数点になるときは問題ないようです。 使い方が間違っているのでしょうか。 こういう場合Int関数を使うのが誤りなのでしょうか？ だとしたら他に当てはまる関数があるのでしょうか？ ちなみにテーブルの定義としては 数量：長整数型（小数点以下桁数０） 単価：単精度浮動小数点型（小数点以下桁数０） となっていますが小数点は表示されています。
- ベストアンサー
- オフィス系ソフト
- エクセルで小数点を表示したい
A B C 1 コード データ 結果 2 1 1000 1000 3 2 1000 100.0 4 3 1000 10.00 5 4 1000 1.000 エクセルで上記のような結果が得られる計算をしたいです。 コードを参照し、 1ならばそのまま表示 2ならばデータを10で割り小数点以下を1桁表示 3ならばデータを100で割り小数点以下を2桁表示 4ならばデータを1000で割り小数点以下を3桁表示 結果の列に =IF(A2=1,B2,IF(A2=2,B2/10,IF(A2=3,B2/100,IF(A2=4,B2/1000)))) という数式を入れたのですが、小数点以下が100.0の筈が 100等と整数として表示されてしまいます。 表のように表示させるにはどこに手を加えたら良いのか どなたかお教え頂けませんでしょうか？
- ベストアンサー
- オフィス系ソフト
- 余りを出す割り算の演算方法
例えば電卓で 20÷３を求めると、6.666666......と出てきますが、小数点以下の値を出さずに 6余り2 というように計算するにはどうしたらいいでしょうか？ 普通の電卓では無理だと思いますが、Windowsに組み込まれている電卓のアプリケーションでは可能でしょうか？
- ベストアンサー
- 数学・算数
お礼
そもそもこの電卓は近似計算しているのですね？ 整数表示していると勘違いしてしまいますね ありがとうございました