• 締切済み

有効数字(有効桁)の考え方

小数を含んだ計算ですが,以下の押さえで正しいでしょうか? いくつかサイトを見て,こうなのかな?と思ってまとめてみたのですが... ((1)の「4」,(2)の「5」に関しては誤差を含まない数とする) (1)6.523×4=26.092 (2)6.524×5=32.620      (小数第3位の0は必要) (3)65.23+6.524=71.754       →71.75(四捨五入(各々4桁故)) (4)65.23÷6.524=9.99846719…       →9.998(四捨五入) (5)65.23÷6.52=10.00460122…       →10.0(四捨五入(6.52が3桁故答えは3桁まで)) (6)6.523×6.524=42.556052       →42.46(四捨五入(各々4桁故)) (7)6.523×6.52=42.52996       →42.5(四捨五入(6.52が3桁故)) 正しいでしょうか?

みんなの回答

  • Asihana
  • ベストアンサー率9% (8/87)
回答No.8

最初の >「…」の表記があれば「=」でOKだとおもっていたのですが,ダメなんでしょうかな?^^; 「0.9999…=1」というのは、よくありますから、この場合は「=」でかまわないはずです。

  • UKY
  • ベストアンサー率50% (604/1207)
回答No.7

No.4の補足に関して 2.125×8=17.00 ↑これであっています。 整数部分が1桁から2桁になっても、掛け算なのでやはり有効桁数は4桁です。

  • Asihana
  • ベストアンサー率9% (8/87)
回答No.6

>整数同士なら確かに桁でしょうが,小数の場合は有効桁でokかと思ったのですが... 整数と小数でちがうとしたら・・。 「バケツに5リットルの水が入っています。5ミリリットル加えると?」を考えた場合、「リットル」にしたら「5+0.005」、ミリリットルにあわせたら「5000+5」。バケツの水の有効数字を4桁の精度で量る人はいませんよね。 それでも、「5.005リットル」と答えますか?

  • Zincer
  • ベストアンサー率44% (89/202)
回答No.5

では基本的な考え方(有効桁数の意味)について例にあげて説明しましょう。 >(1)6.523×4=26.092 誤差を含む「6.523」はどの範囲でしょうか? 小数4桁目を四捨五入して得られた値とすると 6.5225≦「6.523」<6.5235 ですね? ※等号、不等号に注意 では問題です。 1本6.523cm(誤差を含む測定結果)の棒を4本つなぐと長さLは? 考えられる範囲は 26.090≦L<26.094 となり、小数3桁目は信用できない値であることがわかると思います。ですからはっきり言えるのは「26.09」までなのです。 では、次に足し算・引き算の場合ですが、Asihanaさんの示している例に上の考え方を適用してみてください。桁を合わせないと意味のないことがご理解頂けると思います。

  • UKY
  • ベストアンサー率50% (604/1207)
回答No.4

(1) 有効数字4桁×有効数字無限桁=有効数字4桁  なので26.09 (2) (1)と同じで有効数字は4桁なので32.62 (3) 有効位小数第2位+有効位小数第3位=有効位小数第2位  なので71.75 (4) 有効数字4桁÷有効数字4桁=有効数字4桁  なので9.998 (5) 有効数字4桁÷有効数字3桁=有効数字3桁  なので10.0であっています (6) 有効数字4桁×有効数字4桁=有効数字4桁  なので42.56 (7) 有効数字4桁×有効数字3桁=有効数字3桁  なので42.5であっています まとめるとこんな感じでしょうか。

Gen2000plus
質問者

補足

レスありがとうございます. あ,(6)最後の答え打ち間違っていますね.^^; 失礼しました. 便乗. 「2.125×8=17.00」(00は必要) で正しいでしょうか?

  • Asihana
  • ベストアンサー率9% (8/87)
回答No.3

(2)は、最初の6.524の有効数字が4桁だから、答えの32.62までで4桁。「0」は消す、のでは?

Gen2000plus
質問者

補足

レスありがとうございます. 便乗. 「1-0.3010=0.6990」 これは正しいですよね?

  • Asihana
  • ベストアンサー率9% (8/87)
回答No.2

「かけざん」の場合は「桁数」ですが、「たしざん」の場合は「位」でそろえるべきでしょう。 (3)小数第2位まで たとえば「日本の人口は1億2千万です。きのう12人の赤ちゃんが生まれました。人口は何人になりましたか?」これに「有効数字2桁」で計算しても意味がない。

Gen2000plus
質問者

補足

レスありがとうございます. 整数同士なら確かに桁でしょうが,小数の場合は有効桁でokかと思ったのですが...

回答No.1

物理とかだと、 測定値に限界があるからこれで正解です。 でも、このカテゴリー「数学」ですよね? 数学だと、「=」の両辺が一致していないと間違いなので、 (3)以降は「=」ではなくて「≒」になってしまいますよ。 (4)と(5)は分数にする以外、 「=」とはかけないと思いますが。

Gen2000plus
質問者

補足

レスありがとうございます. 「…」の表記があれば「=」でOKだとおもっていたのですが,ダメなんでしょうかな?^^;

関連するQ&A

  • 電卓の表示(いつもは0桁、割り切れないとき2桁)

    キャノンのHS-1220TUGという電卓使ってます。 計算後の答えなんですが、割り切れないときだけ小数点2桁表示(3桁目を四捨五入)で、それ以外は0桁に表示するやり方ありませんか? いつもはFで四捨五入してるんですが、これだといつも小数点2桁まで表示されちゃうから見づらいんです。

  • エクセルで小数点以下3桁を四捨五入して、小数点以下1桁を表示する方法

    エクセル2003を使用しています。 計算式から出た結果に対して、小数点以下3桁を四捨五入して、小数点以下2桁ではなく、1桁を表示したいです。 例えば、計算式の結果、 1.145 の場合、普通に四捨五入すると 小数点以下1桁なら、1.1 小数点以下2桁なら、1.15 となってしまいます。 これを小数点以下3桁を四捨五入して、小数点以下1桁表示の1.2と表示させたいのですが、可能でしょうか?

  • 【高校化学】有効数字の指定が無い問題

    【高校化学】有効数字の指定が無い問題 化学の問題などで、答えの有効数字の指定が無い場合がよくあります。 私は小数点以上は上から四桁目を四捨五入、小数点以下は小数以下3桁目を四捨五入で計算しています。 567865465.2255222… →5.68×10^8 21.555555555… → 21.56 1.64233335… → 1.64 しかしこの前、1.111111111…molというのを1.11molとして計算したら問題集の答えと0.001ずれてしまいました。解説では0.111として計算したみたいです。 こういう計算であっているときもあれば、微妙にずれているときも多々あります。 ほんのわずかなズレですが、なんだか気になってしまいます。 さらに計算が続けばもっとズレてしまいそうですし… 特に21.5555…や21.44444など、5や4を四捨五入するのにちょっとためらいます… 私のやりかたはあっているでしょうか? 入試ではさすがにバツになりませんよね? ご回答よろしくお願いします。

  • 有効数字3桁を導く計算するときは4桁で←本当?

    有効数字3桁の答えを求める計算するときは4桁で←これは本当? 大学受験で使う化学の参考書に、 「乗除算で有効数字3桁の答えを導くとき、有効数字4桁で計算を進めていき、計算結果の4桁目を四捨五入する」 なることが書かれていました。 この通りで言うと例えば 3桁×5桁×6桁 の式を変形して 3桁×4桁×4桁 としても最終的には答えは同じになるのですよね。 なんだか信じられないです。 数学的に誤差は出ないと証明できるのでしょうか? この計算法が使えるときと使えないとき等もあれば教えていただきたいです。m(_)m

  • 化学での有効数字について(途中計算)

     以下についてアドバイスいただけると助かります。  有効数字について  和・差について・・・小数点以下の桁数が少ない方に合わせる  積・商について・・・桁数が少ない方に合わせる  については、分かったのですが、有効数字3桁での指定があるときに  19.1、24.5889、0.12553、3.2952の4つの数にたいして  ○和を筆算で求める場合    小数第1位に合わせるために、    19.1→19.10(小数第2位表示)    24.5889→24.58(小数第3位切り捨て)    0.12553→0.12(小数第3位切り捨て)    3.2952→3.29(小数第3位切り捨て)  として和を求め、小数第1位(小数第2位四捨五入)にする  ○積を筆算で求める場合    有効数字3桁に合わせるために、    19.1→19.10(有効数字4桁表示)    24.5889→24.58(5桁目切り捨て)    0.12553→0.1255(5桁目切り捨て)    3.2952→3.295(5桁目切り捨て)  として積を求め、有効数字を3桁(4桁目は四捨五入)にする  と思っています。  1.このやり方で大学受験では問題ないのでしょうか。    特に気になっているのは、計算をする前の丸め方(すべて切り捨てにしているところ)です。  2.計算ステップがいくつもあり、一度に計算ができない場合、そのステップ毎に得られる数の    丸め方は切り捨て・四捨五入のどちらがよいのでしょうか。  よろしくお願いします。    

  • 小数の割り算と概数に関しての質問です。

    小数の割り算と概数に関しての質問です。 実際に割り算する前の数字のまるめ方がよくわかりません。 たとえば算数、数学の問題で、世界の人口に対する日本の人口の割合を百分率で求めるときに、上から2ケタの概数で求める場合には、9ケタ÷10ケタを計算する前に割る数と割られる数を四捨五入して、上から2ケタの概数にしてから計算しますよね。 しかし、小数第一位を四捨五入して整数で答えなさいと出題された場合にはそのまま割り算をする必要があるのでしょうか。 あるいは上から何ケタ目かを四捨五入してから計算すべきなのでしょうか。 上記の問題を言い換えてみます。 m桁の自然数Aとn桁の自然数Bがある。 A÷Bの小数第三位を四捨五入してできた数をCとする。 Aの上からp桁目を四捨五入した数をA’、Bの上からp桁目をB’とする。 A’÷B’の小数第三位を四捨五入してできた数をC’とする。 CとC’が等しいとき、pの最小値を調べよ、またはm、nを用いて表せ。 CとC’が完全に等しい必要は本当はないのかもしれません。 慣用としてこのような計算をする場合には誤差が入ってもよいとされているのかもしれません。 答えがあるかどうかも分かりませんが、上の例題の場合ではなく、一般的な答えが知りたいです。

  • 計算機の使用法

    計算機を使った計算のやり方について質問します。 答えを小数点以下第5位を四捨五入した小数点第4位までの小数 で表せ。という問題があって、答えは 2/3√3になります。 こういう場合は2を3√3の計算した数値の小数第5位を四捨五入したもので割ればいいのですか?それとも、小数第10位くらいまで計算した値で割って、最終的に第5位を四捨五入すればいいのでしょうか? この場合はいいですが、複雑な計算になると、四捨五入したものどうしをたくさん計算すれば最終的な答えにだいぶ誤差が生まれる気がしまて。すみません単純な質問をして。

  • dounle型で計算時の誤差

    今、VC++(MFC)で、15桁の数値まで表示可能な電卓アプリを作成しています。 そこで今つまずいているのが、double型で計算したとき(演算結果が小数の場合)の誤差の問題です。 とりあえず、いろいろなHPなどの情報を見たりして、誤差問題解決を下記のようにしました。 「数値の頭(左側)から16桁目を四捨五入する」 小数の場合はほとんど誤差が生じるため、計算後、計算結果が小数ならば、必ず 上記の誤差処理を行っています。 しかしこれでは、以下の場合に不具合が出てしまいます。 ・ 0.99 999 999 999 999 ÷ 10 = 本来の答えは「0.09 999 999 999 999 9」 ⇒ しかし15桁までの表示なので、本来は「0.09 999 999 999 999」と15桁まで出力     させなくてはいけないのに、16桁目の「9」を四捨五入したせいで「0.1」という表示に     なってしまう。 16桁目を四捨五入しないと誤差をとることはできないし、でも上記の例だと正しい結果 が出力されません。 どうしたらいいのか頭を悩ませています。 何か良い解決法等あれば、ご教授お願いします!!

  • 小数点以下「3桁で」四捨五入?「3桁を」四捨五入?

    小数点第3位を四捨五入して、小数点第2位までの数値にすることを、 「小数点以下3桁で四捨五入する」というのは正しい日本語ですか? 「小数点以下3桁を四捨五入する」の方が正しいですか? それとも他にもっと適切な言い方はありますか? 国語に自信のある方、回答お願いします!

  • 小学生算数 「上から2けた」の考え方

    小学生算数 「上から2けた」の考え方 お世話になります。 数学のカテゴリで恐縮ですが、小学生の子供に算数を教えていてわからなかったので教えてください。 答えを上から2けたのおよその数で答えなさい、というときに、計算結果が0.536になった場合は、小数第1位を上から1けた目と考えて、小数第3位の6を四捨五入して0.54とすればよいのでしょうか? 1のくらいの「0」を1けた目と数えていいのかどうか、わからなくて質問させていただきました。よろしくお願いいたします。