精度と有効数字の関係について

質問

圧力差Δpにより、長さl半径aの細管中を、時間ｔの間に流れる水の体積をVを測定し、
η=πa^4tΔp/8Vl を用いて水の粘性係数ηを1%精度で求める。この場合、t.Δp.V.lの測定精度は0.2% ,aの測定精度は0.05%必要ですよね？
これはつまり、それぞれの量を有効数字何桁まで測る必要があるのでしょうか？精度と有効数字の関係がいまいち掴めません。どうか、よろしくお願いします。

回答No.2

sanori · ベストアンサー

＞ということは精度0.2%のときは500±1で有効数字は三桁になるのでいいのでしょうか？

ああ、なるほど。
そういう疑問ですか。

結論から言いますと、
０．１％でも０．１５％でも０．２％でも０．３％でも・・・・・・
れいてん何％のときは、全部、有効数字４桁必要になります。

仮に測定値が、有効数字３桁で、０．２００±０．００１だったとしましょうか。
これは精度０．５％になってしまいますよね。

一方、
０．８００±０．００１では、精度０．１２５％となり、０．２％を下回りますよね。

というわけで、有効数字３桁の場合ですと、上のほうの桁の数字によって、精度が０．２％より上になったり下になったりしてしまうわけです。

ですから、統一した考え方で行くためには、０．１％だろうが０．２％だろうが、４桁必要ということになります。

いずれにせよ、πa^4tΔp/8Vl という計算値を出すための測定ですから、各測定値がどれだけの誤差で測定できたかどうかが問題になります。
見かけの有効数字をいくら増やしても、測定精度がそれに見合ってなければ無意味ですよね。

πa^4tΔp/8Vlの誤差
＝aの測定誤差×４＋tの測定誤差＋Δpの測定誤差＋Vの測定誤差＋lの測定誤差

お礼

どうもありがとうございました。やっと精度について分かりました。

回答No.1

sanori

＞t.Δp.V.lの測定精度は0.2% ,aの測定精度は0.05%必要ですよね？

別にそうでなくてもよいです。
aの測定精度×４＋tの測定精度＋Δpの測定精度＋Vの測定精度＋lの測定精度＜1%
であればいいので、例えば、全て同じ精度で測定するとすれば、各々0.125%以内の精度で測定すればよいのです。

仮に0.1%の精度で測定するとすれば、
例えば、
１０００（４桁）±１ならば、ジャスト０．１％の精度ですし
９９９（３桁）±１ならば、０．１％の精度より僅かに悪いということになりますよね？
ですから、０．１％に対しては有効数字４桁あれば十分ということになります。

補足

回答どうもありがとうございます。0.1%の有効数字はご説明のおかげで理解できたのですが・・・ということは精度0.2%のときは500±1で有効数字は三桁になるのでいいのでしょうか？