分析器の精度ＣＶ２％と精度±２％はどう違うか。

質問

分析装置の仕様に精度ＣＶ（変動係数＝標準偏差/平均値）が２％で直線性が±２％となっています。ＣＶ２％は±２％よりは精度がいいのでしょうか。あるいはどの様に解釈すればいいのでしょうか。統計学に強い人よろしくお願いします。

回答No.1

sanori · ベストアンサー

「±２％」という数値が、どういう定義かによります。
標準偏差（σ）という定義もあり、２σという定義もあり、３σという定義もあり・・・

工業関係の統計・データ解析・品質管理では、標準偏差の３倍（＝３σ）で定義するのが主流です。
±３σとは、０．３％（１０００個の製品で約３個）の不良率であることを示します。
±σ（ワン・シグマと呼ぶ）では、不良率は約３２％なので、とても品質管理には使えません。しかし、放射線関係の工学書では、±σは、良く出てきます。

Ｃｖ（＝標準偏差/平均値）は、平均値を掛ければ標準偏差になるので、要は、標準偏差そのものを％表示に直しただけです。
つまり、上述した「ワン・シグマ」（±σ）と、全く同じです。

というわけで、結論。

Ｃｖでない方、すなわち「±２％」の精度表示が、どういう定義であるかに掛かってます。

定義がワン・シグマならば、全く同じです。
２σとか３σであれば、２倍、３倍精度が良いことになります。

なお、
「直線性が±２％」
は、おそらく、色々な大きさの量について測定した結果を直線回帰（最小二乗法）し、その直線に対する各データの外れ具合、すなわち、近似直線に対する標準偏差に相当するものと思われます。
したがって、基本的には、普通に同じぐらいの量を何度も測定した時の標準偏差と同じ概念だと思われます。