• 締切済み

測定誤差の求め方

基礎的な内容だと思いますが、是非お力添えいただけたらと思います。 質問 あるサンプルを6回測定しました。 測定値は、0.00050、0.00030、0.00090、0.00070、0.00060、0.00020です。 その再現性(誤差範囲?)を求めています。 平均を求めました。0.00053です 標準偏差を求めました。0.00026です。 そうするとこのサンプルが99.7%の確率(3σ)で、 0.0013~-0.00024の範囲にあるといえますよね。 しかし、この測定の下限は0.000001なのです。 マイナスの値がでるということは、この計算ではいけないのでしょうか? 過去ログ読むと正規分布に従ってないのかなと思いますが、 どのように処理したらよいのかわかりません? 考え方自体おかしいのかもしれません。 ご意見いただければと思います。 よろしくお願いします。

みんなの回答

回答No.3

測定の仕組みやサンプルの量が多いのか少ないのか、わからないので、これだけではなんとも言えないですが、類推できることを書きます。 正規分布でないとは言い切れないですが、3シグマの範囲がマイナスになるということは、早い話が0かも知れないということを言っているわけで、検出下限のあたりでばらついているという意味だと考えればよろしいのではないでしょうか?下限は0.000001と矛盾することが問題ですね。逆に言えばこの下限に対して、示されている測定値はいささかばらつきが大きいと言えそうです。 下限はどうやってもとめた値でしょうか?

回答No.2

No.1さんの言われるとおり、このデータは明らかに正規分布ではありません。 また、測定の分解能にも問題がありそうです。 測定の有効数字が何桁か確認してください。 質問の表記では、測定値が10万分の1を単位として50,30,90,70,60,20と読みとれます。6回の測定で、データが全て10の倍数であるのは不自然です。 測定方法を一度吟味してみることをおすすめします。 測定方法がきちんとしていなければ、再現性云々以前の問題だと思います。

cwc2047
質問者

お礼

ありがとうございます。 ご指摘のとおりまず装置から確認します。 同サンプルを繰り返し測定しますが、N数どれくらいしらたら有効なんでしょうか? 重ねて質問よろしくお願いします

  • ymmasayan
  • ベストアンサー率30% (2593/8599)
回答No.1

明らかに正規分布ではありません。 いずれにしてもばらつきが大きすぎます。 このような場合は平均値のみが意味を持ちます。 標準偏差は一応計算は出来ますがこれは参考値に過ぎません。 

cwc2047
質問者

お礼

早期ご回答ありがとうございます。 No2さんから回答ありましたように、装置の確認から行います。正規分布にならないのはこれが原因でしょうか?

関連するQ&A

専門家に質問してみよう