• 締切
  • 困ってます

有効桁数 実験 計算値 誤差 計算など

  • 質問No.8427938
  • 閲覧数593
  • ありがとう数0
  • 気になる数0
  • 回答数3
  • コメント数0

お礼率 0% (0/3)

実験の結果のことについて
測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか?

誤差の計算について
計算値の結果が有効桁数により、1.21×10^3Ωとなり、実測値1204Ωと誤差を計算する場合、これは誤差を計算できますか?

回答 (全3件)

  • 回答No.3

ベストアンサー率 35% (551/1557)

No.2です。言葉を代えます。

測定器の精度はいくらですか?測定器に書いてあるはずです。
計算値に係わる測定環境の精度はいくらですか?それも環境機材にあるはずです。

両者の内、精度の高い方の有効桁数を基準(もっとも信頼できる値)として、低い方の差分を誤差とするのが一般的です。
  • 回答No.2

ベストアンサー率 35% (551/1557)

> 測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか?
たとえば、「測定値20kΩと同20Ωを直列接続したら、それは20,020Ωである」と言っているのと同じです。
測定器の精度も併記すべきです。

> 誤差の計算について
計算値の元となる数値の有効桁と、実測値を測定した測定器精度によります。
計算値1,210と実測値1,204で誤差を比較し、
 「互いの精度(有効桁)により、この信頼度は○桁である」
を併記したほうが良いでしょう。
互いに有効数3桁ならば、その評価)考察)は、
 同じ値が得られたと判断できる
等としたほうがよいでしょう。
補足コメント
gugu7878

お礼率 0% (0/3)

誤差の計算について
1.21×10^3Ωを1210Ωとみなして実測値1204Ωとの誤差を6Ωとしてもよろしいのでしょうか?

もし、これが成立した場合
1.21○○○×10^3Ωの○の部分が出ていないので、上記の誤差は信頼できるのでしょうか?
投稿日時:2014/01/13 16:52
  • 回答No.1

ベストアンサー率 38% (69/181)

>測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか?

ダメでしょう。そもそも桁がひとつ違います。測定器で検出した数値を単位もそのままで書くのが通常です。キロを書きたくない特別な事情があれば、2.0×10^3、で表すべきです。

>計算値の結果が有効桁数により、1.21×10^3Ωとなり、実測値1204Ωと誤差を計算する場合、これは誤差を計算できますか?

ご質問の意図がよくわかりません。誤差を算出することは一点だけの測定結果からは出来ません。まあ計算値と実測値は良い一致を示しているとは思います。
補足コメント
gugu7878

お礼率 0% (0/3)

ホイーストンブリッジ回路から未知抵抗の抵抗値を求める実験で
可変抵抗の抵抗値を測定し、未知抵抗を平衡状態を表す式から抵抗値を求め、次に未知抵抗をマルチメータで直接測定したのですが、
計算値は1.21×10^3Ωとなり
実測値は1204Ωとなりました。

これらの誤差を求めたい場合
計算値を1210Ωとみなして実測値との誤差を計算してよいのでしょうか?
投稿日時:2014/01/13 16:42
結果を報告する
このQ&Aにはまだコメントがありません。
あなたの思ったこと、知っていることをここにコメントしてみましょう。
AIエージェント「あい」

こんにちは。AIエージェントの「あい」です。
あなたの悩みに、OKWAVE 3,600万件のQ&Aを分析して最適な回答をご提案します。

関連するQ&A

その他の関連するQ&Aをキーワードで探す

ピックアップ

ページ先頭へ