有効桁数 実験 計算値 誤差 計算など

質問

実験の結果のことについて
測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか？

誤差の計算について
計算値の結果が有効桁数により、1.21×10^3Ωとなり、実測値1204Ωと誤差を計算する場合、これは誤差を計算できますか？

回答No.3

angkor_h

No.2です。言葉を代えます。

測定器の精度はいくらですか?測定器に書いてあるはずです。
計算値に係わる測定環境の精度はいくらですか?それも環境機材にあるはずです。

両者の内、精度の高い方の有効桁数を基準(もっとも信頼できる値)として、低い方の差分を誤差とするのが一般的です。

回答No.2

angkor_h

> 測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか？
たとえば、「測定値20kΩと同20Ωを直列接続したら、それは20,020Ωである」と言っているのと同じです。
測定器の精度も併記すべきです。

> 誤差の計算について
計算値の元となる数値の有効桁と、実測値を測定した測定器精度によります。
計算値1,210と実測値1,204で誤差を比較し、
　「互いの精度(有効桁)により、この信頼度は○桁である」
を併記したほうが良いでしょう。
互いに有効数3桁ならば、その評価)考察)は、
　同じ値が得られたと判断できる
等としたほうがよいでしょう。

補足

誤差の計算について
1.21×10^3Ωを1210Ωとみなして実測値1204Ωとの誤差を6Ωとしてもよろしいのでしょうか？

もし、これが成立した場合
1.21○○○×10^3Ωの○の部分が出ていないので、上記の誤差は信頼できるのでしょうか？

回答No.1

pricedown

＞測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか？

ダメでしょう。そもそも桁がひとつ違います。測定器で検出した数値を単位もそのままで書くのが通常です。キロを書きたくない特別な事情があれば、2.0×10^3、で表すべきです。

＞計算値の結果が有効桁数により、1.21×10^3Ωとなり、実測値1204Ωと誤差を計算する場合、これは誤差を計算できますか？

ご質問の意図がよくわかりません。誤差を算出することは一点だけの測定結果からは出来ません。まあ計算値と実測値は良い一致を示しているとは思います。

補足

ホイーストンブリッジ回路から未知抵抗の抵抗値を求める実験で
可変抵抗の抵抗値を測定し、未知抵抗を平衡状態を表す式から抵抗値を求め、次に未知抵抗をマルチメータで直接測定したのですが、
計算値は1.21×10^3Ωとなり
実測値は1204Ωとなりました。

これらの誤差を求めたい場合
計算値を1210Ωとみなして実測値との誤差を計算してよいのでしょうか?