測定値と有効数字

質問

目盛りのついた測定機器を用いて、測定値を求めた場合の有効数字の考え方がよく分からなくて困っております。例えば、以下のような場合ではどのように有効数字を取ればいいのでしょうか？

例）ノギスを用いて（最小目盛り0.1）２つの試験片の長さLを測定し、測定値を用いてX＝L×3.14の計算を行う。

<試験片a>　L : 1.12
<試験片b> L : 11.24

この場合

aの有効数字3桁で1.115から1.125の中に真値あり（誤差±0.05）
bの有効数字4桁で11.235から11.245の中に真値あり（誤差±0.05）

と考え、最終的に計算式に代入すると

<a> X=1.12×3.14=3.5168＝3.52　←　有効数字3桁で3.515から3.525の中に真値（誤差±0.05）
<b> X=11.24×3.14=35.2936＝35.29　←　有効数字4桁で35.285から35.295の中に真値（誤差±0.005）

として良いのでしょうか？同じ測定機器から求めた値にも関わらず、掛け算を行ってしまうと、測定誤差が異なってくるのに違和感を感じます。
回答よろしくお願いします。

回答No.3

jamf0421 · ベストアンサー

数値そのものをどう解釈するかについては質問者さんどおりだとすれば、
> aの有効数字3桁で1.115から1.125の中に真値あり（誤差±0.05）
> bの有効数字4桁で11.235から11.245の中に真値あり（誤差差±0.05）
の時点で誤差は±0.005のはずです。

> <a> X=1.12×3.14=3.5168＝3.52　←　有効数字3桁で3.515から3.525の中に真値（誤差±0.05）
> <b> X=11.24×3.14=35.2936＝35.29　←　有効数字4桁で35.285から35.295の中に真値（誤差±0.005）

これらの値についても両方とも誤差幅±0.005で、この点については、もしかして質問者さんのただの勘違いでないでしょうか？

ただし、実際の測定値1.12とか11.24についての誤差幅±0.005を認めるとして、それ以降の計算は普通は質問者さんのようにはやらないとおもいます。即ち誤差の伝播の式を使います。簡単に書いてしまえば
f=f(x,y)...(1)
の時に（xとyは互いに独立）
(σf)^2=(∂f/∂x)^2σx^2+(∂f/∂y)^2σy^2...(2)
とします。σf,σx,σyはそれぞれの変数の標準偏差ですが誤差と考えて下さい。
もし質問者さんの例ならばf(x,y)=xyという例になります。この場合は∂f/∂x=y, ∂f/∂y=xですから(2)は
(σf)^2=y^2σx^2+x^2σy^2...(3)
となります。両辺をf^2=(xy)^2で割れば
(σf/f)^2=(σx/x)^2+(σy/y)^2...(4)
となり、掛け合わせたものの相対誤差の２乗は、もとの測定値の相対誤差の２乗和である、ということになります。
1.12±0.005および11.24±0.005のものに3.14を掛ける時、3.14に誤差がない場合(i)(iii)と3.14±0.005の場合(ii)(iv)について誤差は次のようになります。
(i)Δf/f=0.005/1.12=4.46x10^(-3)
f=3.52±0.016
(ii)(Δf/f)^2=(0.005/1.12)^2+(0.005/3.14)^2
Δf/f=4.74x10(-3)
f=3.52±0.017
(iii)Δf/f=0.005/11.24=4.45x10^(-4)
f=35.29±0.016
(iv)(Δf/f)^2=(0.005/11.24)^2+(0.005/3.14)^2
Δf/f=1.65x10^(-3)
f=35.29±0.058
となります。

お礼

丁寧な説明をしていただいてありがとうございます。ご指摘いただいてやっと勘違いに気づきました。あんなに悩んだのが阿呆のようです。大変助かりました。

回答No.2

yokkun831

<a> X=1.12×3.14=3.5168＝3.52　←　有効数字3桁で3.515から3.525の中に真値（誤差±0.05）
<b> X=11.24×3.14=35.2936＝35.29　←　有効数字4桁で35.285から35.295の中に真値（誤差±0.005）
--------------------------------------------------------------
<a> X=1.12×3.14=3.5168±0.0157 ←　3.5011から3.5325の中に真値
すなわち，実質3.52±0.02
<b> X=11.24×3.14=35.2936±0.0157 ←　35.2779から35.3093の中に真値
すなわち，実質35.29±0.02
となると思います。誤差の上限下限で計算してみてください。なお，3.14は真値としてよいのですね？

お礼

素早い回答ありがとうございます。大変良く分かりました。Xの誤差の求め方か間違っていたのですね…。助かりました！

補足

はい、3.14は真値としています。説明不足で申し訳ありません。

回答No.1

noname#160321

3.14掛けちゃった段階でｂも三桁になりますよ。
大体、
>同じ測定機器から求めた値にも関わらず
って、測定値の扱いの理解が出来ていない気がします。
レーザー測距儀で測っても装置の能力には限界があり桁数が違うのは当然でしょう。
測定精度とかけ算を一緒にしないで下さい。

お礼

素早い回答ありがとうございます。拙い質問で申し訳ありません。参考になりました。