実験の有効数字について

質問

有効数字３桁の値を用いて計算を行ったところ、値が0.11235や0.09812となったのですがこのときの有効数字は0.112と0.0981となるんでしょうか？
これだと精度が変わってしまうと思うんですけどこの場合はどうなるでしょうか？

どうぞよろしくお願いします。

回答No.5

7mi · ベストアンサー

有効数字三桁ならば答えは１１２×１０のマイナス３乗。９８．１×１０のマイナス３乗と書くのが理想的です。
ちなみに０．４ｋｇ中に０、００１の割合いで混入しているものを選別すると０，０００４ｋｇとなりますが、これを３桁で丸めますか？という回答がありましたが、０．４ｋと書かれている時点で有効数字は二桁と決まっています。したがって答えは４．０×１０のマイナス４乗が答えです。

回答No.4

k_riv

有効数字の数学的な意味は、下記URLを参照してください。
http://www.kdcnet.ac.jp/buturi/kougi/buturiji/appendix/signif.htm

ただし、実験の分析を念頭に置いた有効数字の場合は、その後の考察等に有効かどうかで判断する場合が多いと思います。

質問者さんの場合は、上記の数学的な意味を考慮して、最後から「何桁の数字」が、ある程度の計算誤差を含んでいることを認識して、この問題の数値の精度に関する質疑に返答できる状態に自分の頭を整理しておけば、＃３補足欄の考え方で、かまわないと思います。

参考URL：

http://www.kdcnet.ac.jp/buturi/kougi/buturiji/appendix/signif.htm

回答No.3

sunasearch

有効数字は、何桁目まで信頼できる数値であるかを示すもので、計算するときに用いるものです。

一方、精度は計算の結果として必要とされる数値の桁数を表します。

ですから、結果として表示する際には1/1000の精度でということであれば、0.112と0.098とすればよいですし、最終的に要求される精度に応じた、有効数字の設定が必要になるかと思います。

また、この結果を次の計算に使う可能性があるとか、計算の途中結果というのでしたら、そのまま0.112と0.0981という形で記述しておけばよいかと思います。

補足

今回の実験では3.12と3.87という値が得られました。
この時点で有効数字は３桁となりますよね？
２つの値を用いて計算したところ最終的に0.11235、0.09812という値となりました。
計算の途中結果ではなく最終的な答えの場合だったら0.112や0.0981と表示してかまわないのでしょうか？

回答No.2

a987654

最終解の有効桁数の指示がある場合はともかく、何の指定も無ければ、
勝手にまるめてはいけません。
例えば
０．４ｋｇ中に０、００１の割合いで混入しているものを選別すると
０，０００４ｋｇとなりますが、これを３桁で丸めますか？

回答No.1

2x4b

積、商の計算では桁数が最も小さいのにあわせます。この場合、0.11235では下２桁は信頼性に欠ける数字といえます。これに当てはまらない場合は式を提示してください。