- 締切済み
有効数字（有効桁）の考え方
Asihanaの回答
- Asihana
- ベストアンサー率9% (8/87)
＞整数同士なら確かに桁でしょうが，小数の場合は有効桁でｏｋかと思ったのですが．．． 整数と小数でちがうとしたら・・。 「バケツに５リットルの水が入っています。５ミリリットル加えると？」を考えた場合、「リットル」にしたら「5+0.005」、ミリリットルにあわせたら「5000+5」。バケツの水の有効数字を４桁の精度で量る人はいませんよね。 それでも、「５.００５リットル」と答えますか?
関連するQ&A
- 電卓の表示（いつもは０桁、割り切れないとき２桁）
キャノンのHS-1220TUGという電卓使ってます。 計算後の答えなんですが、割り切れないときだけ小数点２桁表示（３桁目を四捨五入）で、それ以外は０桁に表示するやり方ありませんか？ いつもはFで四捨五入してるんですが、これだといつも小数点２桁まで表示されちゃうから見づらいんです。
- 締切済み
- 数学・算数
- エクセルで小数点以下3桁を四捨五入して、小数点以下1桁を表示する方法
エクセル2003を使用しています。 計算式から出た結果に対して、小数点以下3桁を四捨五入して、小数点以下2桁ではなく、1桁を表示したいです。 例えば、計算式の結果、 1.145 の場合、普通に四捨五入すると 小数点以下1桁なら、1.1 小数点以下2桁なら、1.15 となってしまいます。 これを小数点以下3桁を四捨五入して、小数点以下１桁表示の1.2と表示させたいのですが、可能でしょうか？
- ベストアンサー
- オフィス系ソフト
- 【高校化学】有効数字の指定が無い問題
【高校化学】有効数字の指定が無い問題 化学の問題などで、答えの有効数字の指定が無い場合がよくあります。 私は小数点以上は上から四桁目を四捨五入、小数点以下は小数以下3桁目を四捨五入で計算しています。 567865465.2255222… →5.68×10^8 21.555555555… → 21.56 1.64233335… → 1.64 しかしこの前、1.111111111…molというのを1.11molとして計算したら問題集の答えと0.001ずれてしまいました。解説では0.111として計算したみたいです。 こういう計算であっているときもあれば、微妙にずれているときも多々あります。 ほんのわずかなズレですが、なんだか気になってしまいます。 さらに計算が続けばもっとズレてしまいそうですし… 特に21.5555…や21.44444など、5や4を四捨五入するのにちょっとためらいます… 私のやりかたはあっているでしょうか？ 入試ではさすがにバツになりませんよね？ ご回答よろしくお願いします。
- ベストアンサー
- 化学
- 有効数字3桁を導く計算するときは4桁で←本当？
有効数字3桁の答えを求める計算するときは4桁で←これは本当？ 大学受験で使う化学の参考書に、 「乗除算で有効数字3桁の答えを導くとき、有効数字4桁で計算を進めていき、計算結果の4桁目を四捨五入する」 なることが書かれていました。 この通りで言うと例えば 3桁×5桁×6桁 の式を変形して 3桁×4桁×4桁 としても最終的には答えは同じになるのですよね。 なんだか信じられないです。 数学的に誤差は出ないと証明できるのでしょうか？ この計算法が使えるときと使えないとき等もあれば教えていただきたいです。m(_)m
- ベストアンサー
- 化学
- 化学での有効数字について（途中計算）
以下についてアドバイスいただけると助かります。 有効数字について 和・差について・・・小数点以下の桁数が少ない方に合わせる 積・商について・・・桁数が少ない方に合わせる については、分かったのですが、有効数字３桁での指定があるときに 19.1、24.5889、0.12553、3.2952の4つの数にたいして ○和を筆算で求める場合 小数第1位に合わせるために、 19.1→19.10（小数第2位表示） 24.5889→24.58（小数第3位切り捨て） 0.12553→0.12（小数第3位切り捨て） 3.2952→3.29（小数第3位切り捨て） として和を求め、小数第1位（小数第2位四捨五入）にする ○積を筆算で求める場合 有効数字３桁に合わせるために、 19.1→19.10（有効数字4桁表示） 24.5889→24.58（5桁目切り捨て） 0.12553→0.1255（5桁目切り捨て） 3.2952→3.295（5桁目切り捨て） として積を求め、有効数字を3桁（4桁目は四捨五入）にする と思っています。 １．このやり方で大学受験では問題ないのでしょうか。 特に気になっているのは、計算をする前の丸め方（すべて切り捨てにしているところ）です。 ２．計算ステップがいくつもあり、一度に計算ができない場合、そのステップ毎に得られる数の 丸め方は切り捨て・四捨五入のどちらがよいのでしょうか。 よろしくお願いします。
- ベストアンサー
- 化学
- 小数の割り算と概数に関しての質問です。
小数の割り算と概数に関しての質問です。 実際に割り算する前の数字のまるめ方がよくわかりません。 たとえば算数、数学の問題で、世界の人口に対する日本の人口の割合を百分率で求めるときに、上から2ケタの概数で求める場合には、9ケタ÷10ケタを計算する前に割る数と割られる数を四捨五入して、上から2ケタの概数にしてから計算しますよね。 しかし、小数第一位を四捨五入して整数で答えなさいと出題された場合にはそのまま割り算をする必要があるのでしょうか。 あるいは上から何ケタ目かを四捨五入してから計算すべきなのでしょうか。 上記の問題を言い換えてみます。 ｍ桁の自然数Aとｎ桁の自然数Bがある。 A÷Ｂの小数第三位を四捨五入してできた数をCとする。 Ａの上からｐ桁目を四捨五入した数をＡ’、Ｂの上からｐ桁目をＢ’とする。 Ａ’÷Ｂ’の小数第三位を四捨五入してできた数をＣ’とする。 ＣとＣ’が等しいとき、ｐの最小値を調べよ、またはｍ、ｎを用いて表せ。 ＣとＣ’が完全に等しい必要は本当はないのかもしれません。 慣用としてこのような計算をする場合には誤差が入ってもよいとされているのかもしれません。 答えがあるかどうかも分かりませんが、上の例題の場合ではなく、一般的な答えが知りたいです。
- ベストアンサー
- 数学・算数
- dounle型で計算時の誤差
今、ＶC++(MFC)で、15桁の数値まで表示可能な電卓アプリを作成しています。 そこで今つまずいているのが、double型で計算したとき(演算結果が小数の場合)の誤差の問題です。 とりあえず、いろいろなHPなどの情報を見たりして、誤差問題解決を下記のようにしました。 「数値の頭(左側)から16桁目を四捨五入する」 小数の場合はほとんど誤差が生じるため、計算後、計算結果が小数ならば、必ず 上記の誤差処理を行っています。 しかしこれでは、以下の場合に不具合が出てしまいます。 ・ 0.99 999 999 999 999 ÷ 10 = 本来の答えは「0.09 999 999 999 999 9」 ⇒ しかし15桁までの表示なので、本来は「0.09 999 999 999 999」と15桁まで出力 させなくてはいけないのに、16桁目の「9」を四捨五入したせいで「0.1」という表示に なってしまう。 16桁目を四捨五入しないと誤差をとることはできないし、でも上記の例だと正しい結果 が出力されません。 どうしたらいいのか頭を悩ませています。 何か良い解決法等あれば、ご教授お願いします!!
- ベストアンサー
- C・C++・C#
- 小数点以下「3桁で」四捨五入？「3桁を」四捨五入？
小数点第3位を四捨五入して、小数点第2位までの数値にすることを、 「小数点以下3桁で四捨五入する」というのは正しい日本語ですか？ 「小数点以下3桁を四捨五入する」の方が正しいですか？ それとも他にもっと適切な言い方はありますか？ 国語に自信のある方、回答お願いします！
- ベストアンサー
- 日本語・現代文・国語
- 小学生算数 「上から２けた」の考え方
小学生算数 「上から２けた」の考え方 お世話になります。 数学のカテゴリで恐縮ですが、小学生の子供に算数を教えていてわからなかったので教えてください。 答えを上から２けたのおよその数で答えなさい、というときに、計算結果が0.536になった場合は、小数第１位を上から１けた目と考えて、小数第３位の6を四捨五入して0.54とすればよいのでしょうか？ １のくらいの「0」を１けた目と数えていいのかどうか、わからなくて質問させていただきました。よろしくお願いいたします。
- ベストアンサー
- 数学・算数