誤差を用いた数値の丸め方

質問

化学成分分析を行った結果

30.0±2.6　wt%

といった数値が出力される装置を使っています。

この場合、結果報告には「30」として記載するよう指導されたのですが、誤差と有効桁数の関係が良く分かりません。（この表記自体、間違いかもしれませんが）

誤差の桁数が測定値を丸める際に影響を及ぼす範囲について教えて下さい。
例えば上記の分析結果が

30.0±0.6　wt%　や
30.0±0.06　wt%

だった場合には、どういう風になるのでしょうか。

宜しくお願いします。

回答No.1

tnt · ベストアンサー

±2.6ということは、30.0は６６％（または90%、99%)の
確率で32.6～27.4である可能性があるわけですね。
この時、30.0と表記すると
最後の0に意味があるように捉えられてしまいますから、
普通は30と表記します。

ただし、32.6や27.4に特別な意味がある場合は
ちゃんと30.0±2.6とします。

±0.6なら、30.0
±0.06なら30.00と表記するか、
3.00*10^1、3.000*10^1という表記だと思います。

±10なら、3*10^1　ですね。

普通はこういう数字は指数を利用して書くことで
有効数字をはっきりさせています。

お礼

指数を利用する表記方法があることが分かり、大変参考になりました。
ありがとうございました。

回答No.4

Hyoutan

#2さんに似てますが補足です。
統計上の問題以外に，はかりや分析法の精度がかかわってきます。小数点以下の精度を保証しない分析法では，小数点以下を書く意味がありません。逆に精度が0.1以下であれば，平均値は30.0と書くべきです。

お礼

報告にあたっては、用いた装置の測定精度にも触れておく必要があるかもしれません。
参考になりました。
ありがとうございました。

回答No.3

noname#24477

これは３０にするか３０．０と表記するかという問題かと思います。

この違いは分かりますか。
３０だったら小数第１位を四捨五入（もっと上かも）
３０．０なら小数第２位を四捨五入

最初の質問だと誤差が整数部分にまで及んでいますから３０．０と書くのは無理ということでしょう。

30.0±0.06でも四捨五入で小数第１位に影響がでます
から、この場合でも30.0までだと思います。
（誤差の影響が出てしまうようでは有効桁に入れられないので３０としか出来ないような気もしますが）

どうも誤差論はいまいちなので、自信なしにしておきます。

お礼

>誤差の影響が出てしまうようでは有効桁に入れられない

という表現が、逆に理解を容易にしてくれました。
ありがとうございました。

回答No.2

0shiete

有効桁数は何桁目まで意味がある数字かということであり、誤差というのは計測値と真値との差をいいます。

装置が30.0±2.6と出力するなら、有効な桁は小数第一位までと言えます。つまり有効数字３桁です。もし、小数第一位が電気的雑音を示しているだけなら、この桁は有効とはいえませんので有効桁数２桁です。

30.0±2.6とは「○○％の確率で真値はこの範囲(27.4～32.6)に入っています」という意味です。30.0の周りになだらかな確率の山（正規分布）を想定し、算出します。

この場合、山の頂上に当たる部分(30.0)が真値の確率が高いといえます。ですので、30と報告するように言われたのだと思います。

誤差とは、真値との差ですので想定される誤差は2.6といえます。

＞30.0±0.6　wt%　や
30.0±0.06　wt%

以上より、上の２ケースのどちらでも30.0が真値らしいのには変わりありません。30.0±0.06　wt% の方が誤差が小さく、鋭い正規分布ということがわかります。

お礼

真値を中心とした正規分布を考えると、イメージとして浮かびやすいです。
その分布がなだらかか鋭いか、そのあたりも含めて考えるようにします。
ありがとうございました。