有効桁数 実験 計算値 誤差 計算など

実験の結果のことについて 測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか? 誤...

angkor_h さんからの 回答

  • 2014/01/16 00:04
  • 回答No.3
angkor_h

ベストアンサー率 35% (551/1557)

No.2です。言葉を代えます。

測定器の精度はいくらですか?測定器に書いてあるはずです。
計算値に係わる測定環境の精度はいくらですか?それも環境機材にあるはずです。

両者の内、精度の高い方の有効桁数を基準(もっとも信頼できる値)として、低い方の差分を誤差とするのが一般的です。
この回答にこう思った!同じようなことあった!感想や体験を書こう!
この回答にはまだコメントがありません。
あなたの思ったこと、知っていることをここにコメントしてみましょう。
関連するQ&A
  • 計算値と理論値の誤差について 科学

    交流回路の実験をする前に、ある回路のインピーダンスZ(理論値)を計算で求めたあと、実験をしたあとの測定値を利用して、同じ所のインピーダンスZ(計算値)を求めると理論値と計算値の間で誤差が生じました。 そこでふと思ったのですが、なぜ理論値と計算値の間で誤差が生じるのでしょうか?また、その誤差を無くすことはできるのでしょうか? できるのなら、その方法を教えてください。 あと、その誤差が原因で何か困る事はあるのでしょうか? 教えてください。...

  • 有効桁数について その他(学問・教育)

    レポートで有効桁数というものが出てきたんですが良く分かりません。つまりは有効桁数というのは、 「1.5-0.15=1.3」というので、小数点以下の計算の場合、結果は精度が低いほうの桁で応えるというものですよね??(汗) 聞きたいのは単位を「mm」から「m」に直したときの有効桁数のことなんですが、 例えば「100.5mm-10.3mm=90.2mm」じゃないですか? これを[m]に直したときの有効桁数は、 「0.0902m」なんですか? それとも「0.09m」なんでしょうか? 良く分からないのでよろしくおねがいします。...

  • 現在、情報処理試験の勉強をしているのですが、 情報処理技術者

    現在、情報処理試験の勉強をしているのですが、 桁落ち誤差がなぜ誤差なのかが分かりません。 有効数字(有効桁数)が減少する事の何が問題なのか、 正規化されて仮数部には0が入るだけで、 0なんだから、 誤差(誤った差)なんて無いように思えるのですが。。 複数のサイトを見てみましたが、 まとめると以下の3つのパターンの解説に大別できるように思われます。 (1)有効桁数が減少する事を桁落ち誤差と言う ⇒桁落ちによりどのような誤差が発生するのか解説がなく。 (2)正規化された部分に0以外が入ることがある。(プログラミング) http://www.k-cube.co.jp/wakaba/server/numerical_problem.html ⇒正規化された部分には0が入るという前提があるので、  このサイトの桁落ちと  情報処理試験の桁落ちは前提が違う。 (3)科学技術計算では2と2.000は違うので、  桁落ちは問題 http://itpro.nikkeibp.co.jp/members/ITPro/ITBASIC/20010719/5/  ⇒だいぶ探している答えに近い気はするが、   具体例がなく良く分からず。。 具体的な例で何が問題なのかを、 どうして誤差が発生するのか、 ご教授頂ければ幸いです。。...

  • 共振周波数の計算値と実測値 物理学

    こんばんは。 私は4大に通う2年生です。 先日実験でRLC直列共振回路の実験を行いました。 そのときに実測した共振周波数と、計算で割り出した共振周波数が違っていたのですが、なぜ誤差が生まれるのでしょう。 ご教授お願いいたします。...

  • けた落ちについて その他([技術者向] コンピューター)

    「けた落ち」が誤差となりうる理由について、ご教示ください。 書籍やネットで調べると、有効桁数が減少するから誤差となりうると記載がありますが 有効桁数が減少するからといって、なぜそれが誤差になるのかが 全くわかりません。 情報落ちや丸め誤差 が誤差というのは当然であり納得できるのですが。。。 可能であれば、誤差となる具体例と合わせてご教示いただけると幸いです。 ご教示のほど、お願いいたします。...

ページ先頭へ