- 締切済み
有効数字について
0.0001gまで測定できるはかりで秤量して得た数値のみを使って計算を行なった場合は小数点以下四桁までが有効ということでいいのでしょうか。 上記のはかりを用いて秤量した場合で、たとえば 2.3345gと10.2325g という値が得られたとして、これら二つの値の有効数字は違うのでしょうか。何回も有効数字について書かれたものは見ているのですが、いまいちよくわからないので教えてください。
- みんなの回答 (1)
- 専門家の回答
みんなの回答
- sanori
- ベストアンサー率48% (5664/11798)
回答No.1
こんばんは。 >>>0.0001gまで測定できるはかりで秤量して得た数値のみを使って計算を行なった場合は小数点以下四桁までが有効ということでいいのでしょうか。 0.0001の精度で測れるのと、0.0001の位まで表示されることとは違います。 前者であれば、小数第4位(小数点以下四桁)までが有効となります。 >>> 上記のはかりを用いて秤量した場合で、たとえば 2.3345gと10.2325g という値が得られたとして、これら二つの値の有効数字は違うのでしょうか。 当然、有効数字の桁数は異なります。 精度(小数第何位まで有効か)は同じです。 掛け算・割り算では、有効数字が少ないほうに合わせますが、 足し算・引き算では精度が悪いほう(小数点以下の桁数が少ないほう)に合わせます。 以上、ご参考になりましたら幸いです。