- ベストアンサー
有効数字と太さの測定：どちらが正しい？
- 物の太さをコンピュータが測定し、有効数字の考え方に基づいて結果を求めた。
- 結果からは、物の太さは522±2と求まったが、考え方には違いがある。
- どちらの考え方が正しいかは明確ではないが、双方の方法で同じ結論が出た。
- みんなの回答 （5）
- 専門家の回答
質問者が選んだベストアンサー
皆さんには不評のようですが、物理的になにかを測定する場合、たいがいは不確かさは1桁、もしくは2桁出せば十分です。測定器の精度が小数第3位まであり個々の測定値の有効数字が小数第三位まであったとしても、平均を取った結果、切り捨てるということはいくらでもあります。計測器の精度よりもばらつきが大きいということは人間が制御できない不確かさの要因が入り込んでいるという事なので、測定器の精度に縛られて測定値の有効数字をすべて使って計算するというのは無意味です。無意味ですが、測定器をPCにつないでデータを取得している場合には、よけいなことをするとかえって手間になるだけですので、 ＞あるいは、生のデータでまずはそのまま処理し、 という方を推奨します。 手計算を考えたとき、結果を見こしたこの場合の ＞この場合、一の位が揺らいでいると見なすことができ、 としてはじめから計算に使う桁を少なくしようという判断そのものは間違っていません。「一の位が揺らいでいる」というのは#2で言われている主観ではなく、データが示す客観的な事実で、そのあたりに不確かさの一桁目があるということは疑う余地はありません。 一般論では上のとおりですが、今回のケースで一の位で打ち切るという判断は間違いです。往々にして、不確かさの一桁めは揺らいでいる次の桁にあります。さらに余裕を見て、このデータであれば小数第3位まですべて使いましょう。 最後に、もう一点。 測定値の不確かさの表記には測定値の標準偏差ではなく平均値の標準偏差を使うことになっています。なので、 ＞偏差＝1.753041 を使って、 ＞522±2 とするのは間違いです。この「偏差」をさらに√[n-1]で割った(この場合はn=5)、 1.753041/√[5-1] = 0.8765 を使い、 521.9 ± 0.9 とするのが正解です。
その他の回答 (4)
- hitokotonusi
- ベストアンサー率52% (571/1086)
失礼しました。 ＞とある物の太さ（場所によっては凸凹あり） ということなので、最後はよけいでした。 太さのばらつきそのものが必要なケースなので、522±2 で正解です。
測定位置を固定して、同じ場所の測定を数回行うと 測定誤差の信頼度が分散値、おとび有効桁数も 見えてくるのでは？ ・測定誤差のばらつき ・測定位置による値のばらつき この二つの誤差を考慮する必要があると思います。
- sanori
- ベストアンサー率48% (5664/11798)
こんにちは。 「この場合、一の位が揺らいでいると見なすことができ」 というのは主観的な判断ですよね。 測定器の精度が小数第３位ぐらいまであるならば、 合計値 ＝ 521.967 ＋ 522.962 ＋ 520.973 ＋ 523.954 ＋ 519.432 ＝ 2609.288 合計値の精度（有効数字）は、７桁あります。 ということは、平均値の精度（有効数字）も７桁あります。 平均値 ＝ 2609.288／５ ＝ 521.8576 そして、 偏差の有効数字は、平均値と同じく小数第４位までです。（これは、桁で考えてはいけません。） 以上、ご参考になりましたら。
- denbee
- ベストアンサー率28% (192/671)
よくわかりませんが、測定データ自体の精度は小数点何ケタなんでしょうか？ それを無視して、「揺らいでいるから」という恣意的な理由で一の位で四捨五入しても、 計算された値には全く意味がありません。
