• ベストアンサー

有効数字の桁数について

有効数字の桁数がよく分かりません。 (1)２．１０ｍｍ　が有効数字三桁ならば、５２１ｍｍ　も有効数字三桁なのでしょうか。 (2)５２１２１２１ｍｍ　だったら、有効数字七桁なのでしょうか。 (3)５．２１×１０＾３　や　５，２１×１０＾－３　は有効数字三桁で良いのでしょうか。 有効数字の計算は桁数が分かれば、多分できると思うので、桁数の考え方について教えてください。 よろしくお願いします。

質問者が選んだベストアンサー

  • ベストアンサー
  • mii-japan
  • ベストアンサー率30% (874/2820)
回答No.1

（１）～（３）　ご理解の通りです 乗除算の場合、計算途中は、有効数字を1桁多く計算しておいて、最後に有効数字の桁数で丸めるのが一般的です 加減算の場合、少々面倒です 絶対値の大きい数値は0を補填して、絶対値の小さい数値と桁をあわせて計算し最後に有効数字の桁数に丸めます たとえば有効数字3桁で　5.21x10^3と1.11x10^1を加算する場合 05210.00　　上位の0は、この表記が読み易いように入れただけで意味はありません +0001.11 -------- 05211.11 ですが　この時点で1.11が意味を持たないことはお判りと思います 有効数字の場合下位の0が意味を持ちますから充分ご留意ください 52100の場合やや不正確です 本来は　0.52100x10^5　ですが　場合によっては　0.521x10^5　も想定されます、このようなあいまいな表記を行わないように注意してください

hideki1549
質問者

お礼

回答ありがとうございました。 有効数字の表記方法は難しいのですね。

その他の回答 (1)

回答No.2

質問のとおりです。 ただ、（１）や（２）のケースはやや分かりにくいこともありますから、より正確に表したいときは指数で表示した方が親切だとは思います。 5.21 X 10^2 mmとか。 蛇足ですが、数値と単位の間にはスペースを入れるのが正式です。

hideki1549
質問者

お礼

回答ありがとうございました。 ＞数値と単位の間にはスペースを入れるのが正式です。 というのは知りませんでした。 合っていて良かったです。

  1. カテゴリ
  2. 学問・教育
  3. 自然科学
  4. 物理学

関連するQ&A

  • 有効数字の桁数

    有効数字がよくわからなくて調べていたら、 こんな例がありました。 有効数字３桁の例 31400 3.14 538 5.38×10^2 3.00×10^-5　←これも３桁です なぜこれらは有効数字が３桁なのですか？ どうやって桁数を判断するのかわかりません。 教えてください。よろしくお願いします。

  • 数字の桁数を揃えたい(0→01のように)

    数字をalert文で表示するときに、 桁数を2桁で出力したいのですが、どのような方法を取るのが良いでしょうか？ 数字が1桁(0～9)の時に先頭に0を付けたいのです。

  • 有効数字の桁数が違う場合のプラス1桁の出し方

    有効数字の桁数がそろわない場合の掛け算・割り算は途中の計算は有効数字の桁数の最小のものプラス1桁で計算し、最後に四捨五入で有効数字の桁数の最小のものにあわせると書いてあります。次の場合、どちらが適当な計算といえるのでしょうか。（　）内は最終的に有効数字の桁数の最小のものに四捨五入して桁数を合わせて出した答えです。 ア．2.5×1.456=2.5×1.45　(3.6) イ．2.5×1.456=2.5×1.46 (3.7) また、次の場合はどうでしょうか。（最終的に有効数字の桁数は2桁とします） ウ．x^2=2.456 x=√2.45 (x=1.6) エ．x^2=2.456 x=√2.46 (x=1.7) 結局、最終的な有効数字の桁数の次の次の位の数字を四捨五入すべきなのかそれとも意味があまりないので捨てるべきなのか分らないのです。 悩んでいますので、どなたか教えていただけないでしょうか。よろしくお願いいたします。

  • 有効桁数について

    レポートで有効桁数というものが出てきたんですが良く分かりません。つまりは有効桁数というのは、 「1.5－0.15=1.3」というので、小数点以下の計算の場合、結果は精度が低いほうの桁で応えるというものですよね？？（汗） 聞きたいのは単位を「mm」から「m」に直したときの有効桁数のことなんですが、 例えば「100.5mm－10.3mm=90.2mm」じゃないですか？ これを[m]に直したときの有効桁数は、 「0.0902m」なんですか？ それとも「0.09m」なんでしょうか？ 良く分からないのでよろしくおねがいします。

  • 有効数字の桁数と平均操作

    http://oshiete1.goo.ne.jp/qa4080175.html この質問に答えようと思っていましたが締め切られてしまいましたので私の質問として書かせていただきます。 元の質問は１０個の測定データがあるとき平均値の有効桁数はいくらかというものです。参考のためにデータを載せておきます。 92.0mm　　91.5mm　　91.0mm　　97.0mm　　93.0mm 94.0mm　　92.0mm　　93.0mm　　92.0mm　　92.5mm 個々のデータを見れば有効桁数３桁のように見えますがデータごとのばらつきが大きいです。２桁目でばらついています。最大の値と最小の値で６．０も幅があります。データの信頼性で言えば有効数字は２桁だと思います。小数点下第一位の数値は全く信頼性のない値です。 この質問のＡ＃１の参考ＵＲＬにも書かれていますが 測定を１０回繰り返すということをやれば平均値の有効桁は測定の有効桁よりも１つ増やすことが出来ます。 問題はこの測定値の有効桁がいくらかということです。 私は１０個のデータの有効桁は２桁だと思います。個々のデータを３桁で測ったということがデータの有効桁を表しているのではないと考えます。 したがって平均値は９２．８０ではなく９２．８が正しいと思います。 （でも質問者様は９２．８０が正しいということで納得してしまわれたようです。） 統計に詳しい方がおられて回答をもらえるといいのですが。

  • 有効桁数について

    ある数値を５回測定したとします A 5.039 B 5.075 C 5.092 D 5.064 E 5.058 有効桁数はすべて４桁ですよね？ 次にA～Eの平均を取ると (A+B+C+D+E)/5=5.0656 と関数電卓で結果がでますが、４桁に丸めて5.066とすれば有効桁数の扱い方としては問題ないですか？ そしてA～Eの平均の２乗をするときは、上記の平均を有効桁数４桁に丸めた5.066を２乗して (5.066)^2=25.664356 となり、そして5.066の有効桁数４桁に合わして25.66とすればいいのでしょうか？ それとも平均の値を４桁に丸める前の電卓で出た値のまま２乗した後、最終的に４桁に丸めるのがいいのでしょうか？この数値だとどちらでやっても４桁にした値は変わりませんが・・・ 有効桁数の扱い方で問題があったら教えてください、また平均の２乗を求めるときはどちらが正しいのでしょうか？ （平均の値の２乗は平均×平均なのだから平均の値を４桁にせず５桁として計算すると平均の２乗は有効桁数５桁と考えるので、やはり正しく平均の値を測定値の有効桁数４桁に丸めて出した平均の値を２乗する方が正しいですかね・・・） 　　 また、上記の平均の計算をしたときのよな、「5」などの数字の有効桁数は何桁ですか？１桁なんでしょうか？もし１桁なら割り算をしているので有効桁数はいちばん桁数の少ないものに合わせるので有効桁数１となると平均の値が「5」となりおかしいとおもうんですが・・・ 上記の平均を取ったときの「５」や、測定回数の数値や、測定していない数で１００で割れと書いてあったりしたときは、それらの数字の桁数も考えなければならないんでしょうか？ 読みづらい文章かもしれませんが、ご回答待っています。

  • 有効桁数について

    ある測定値７５．８８と測定値ではない任意の数１５などを掛け合わしたとき 電卓でこの計算をすると１１３８．２となります これは掛け算なので有効桁数は演算における実数の有効桁数が一番少ないもので決まるので、７５．８８の有効桁数４桁をつかって１１３８とするのが正しいのでしょうか？ それとも（測定値）×（測定値ではない値）のときは有効桁数は考慮しないで１１３８．２（１１３８．２０？）とした方が良いのでしょうか？ １５×７５．８８とは７５．８８を１５回足すことなので、１５回足し算した場合は、１１３８．２０が有効数字の扱い方としては正しいですよね？ 大変困っています・・・ 有効数字の扱い方はどうすればよいか教えてください、あまりにも小さい誤差は気にしないとかではなく、有効数字の扱い方はどうすればいいかを教えて欲しいです。

  • 有効数字と桁数について

    有効数字と数字の桁数について、教えていただきたいことがあります。 大学で先生が測ってきた環境調査データの整理をしているのですが、ある濃度について、小数点以下が２桁のものと３桁のものが混在していました。 例えば、このような感じです。 0.23 mg/L 0.083 mg/L 違和感を感じたので、「0.220 mg/Lとしたり、四捨五入して0.08mg/Lとしたりしなくていいのですか？」と聞いたところ、「どちらも、有効数字２桁だから問題ない」と言われました。 0.23とは本来、0.225～0.235までの範囲の総称を0.22と言い、0.083とは本来、0.0825～0.0835までの範囲の総称を言うそうですが、そもそも、どちらの数字も同じ分析器機器で測定可能ということでした。ということは、基本的には1/1000の位までは正確に測れるんだと思います。ということは、0.23という数字についても小数点以下3桁で書くのが正しいのではないかと思ったのですが、こういう考えはダメでしょうか？ また、別の項目では、 0.05 mg/L 0.21 mg/L という2つの数字が出てきました。 この場合、上の有効数字は1桁で、下の有効数字は2桁と考えられ、桁があってないのではないかと思います。 これは問題ないのでしょうか？ 教えていただきたくよろしくお願いします。

  • 有効数字

    掛け算、割り算の混在する計算における最終的な答えの有効数字は、「最も小さい有効桁数にまとめる」ことがJISで定められています。 　例　5桁x3桁÷2桁x4桁→2桁にまとめる しかし、この考え方は本当に正しいでしょうか？ 例えば、有効数字0.90に対する0.01の影響は約1%です。 これに対して、有効数字0.20に対する0.01の影響は5%で、上記よりもはるかに影響が大です。 単に「”桁数”で見切って処理する」というやり方は、理論的に間違っているのではないでしょうか？ 統計理論上の質問です。

  • 有効数字とはなんですか？

    中学生にもわかるように説明してくだされば幸いです。 色々調べたのですが、よくわからなくて、、 以下の認識で合ってますか？ 認識：近似値や測定値を表す数字のうち，実用上有意義な桁数だけとった数字。 また、「有効桁数」とは、有効数字の桁数のこと。 例えば、1．2345という数字があったとしたら、実用上有意義な桁数が3なら、有効数字は1.23で、有効桁数は3桁。 また、０の処理については以下の通り。 0ではない数字に挟まれた0は有効である。例えば、 60.8 は有効数字3桁である。 39008 は有効数字5桁である。 0ではない数字より前に0がある場合、その0は有効ではない。例えば、 0.093827 は有効数字5桁である。 0.0008 は有効数字1桁である。 0.012 は有効数字2桁である。 小数点より右にある0は有効である。例えば、 35.00 は有効数字4桁である。 8 000.000000 は有効数字10桁である。

注目のQ&A

カテゴリ

専門家に質問してみよう

職業から探して質問する

あなたにピッタリな商品が見つかる！ OKWAVEセレクト

質問する