- 締切済み
有効桁数 実験 計算値 誤差 計算など
実験の結果のことについて 測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか？ 誤差の計算について 計算値の結果が有効桁数により、1.21×10^3Ωとなり、実測値1204Ωと誤差を計算する場合、これは誤差を計算できますか？
- gugu7878
- お礼率0% (0/3)
- その他（学問・教育）
- 回答数3
- ありがとう数0
- みんなの回答 （3）
- 専門家の回答
みんなの回答
- angkor_h
- ベストアンサー率35% (551/1557)
No.2です。言葉を代えます。 測定器の精度はいくらですか?測定器に書いてあるはずです。 計算値に係わる測定環境の精度はいくらですか?それも環境機材にあるはずです。 両者の内、精度の高い方の有効桁数を基準(もっとも信頼できる値)として、低い方の差分を誤差とするのが一般的です。
- angkor_h
- ベストアンサー率35% (551/1557)
> 測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか？ たとえば、「測定値20kΩと同20Ωを直列接続したら、それは20,020Ωである」と言っているのと同じです。 測定器の精度も併記すべきです。 > 誤差の計算について 計算値の元となる数値の有効桁と、実測値を測定した測定器精度によります。 計算値1,210と実測値1,204で誤差を比較し、 「互いの精度(有効桁)により、この信頼度は○桁である」 を併記したほうが良いでしょう。 互いに有効数3桁ならば、その評価)考察)は、 同じ値が得られたと判断できる 等としたほうがよいでしょう。
- pricedown
- ベストアンサー率38% (69/181)
＞測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか？ ダメでしょう。そもそも桁がひとつ違います。測定器で検出した数値を単位もそのままで書くのが通常です。キロを書きたくない特別な事情があれば、2.0×10^3、で表すべきです。 ＞計算値の結果が有効桁数により、1.21×10^3Ωとなり、実測値1204Ωと誤差を計算する場合、これは誤差を計算できますか？ ご質問の意図がよくわかりません。誤差を算出することは一点だけの測定結果からは出来ません。まあ計算値と実測値は良い一致を示しているとは思います。
補足
ホイーストンブリッジ回路から未知抵抗の抵抗値を求める実験で 可変抵抗の抵抗値を測定し、未知抵抗を平衡状態を表す式から抵抗値を求め、次に未知抵抗をマルチメータで直接測定したのですが、 計算値は1.21×10^3Ωとなり 実測値は1204Ωとなりました。 これらの誤差を求めたい場合 計算値を1210Ωとみなして実測値との誤差を計算してよいのでしょうか?
関連するQ&A
- 有効桁数について
ある測定値７５．８８と測定値ではない任意の数１５などを掛け合わしたとき 電卓でこの計算をすると１１３８．２となります これは掛け算なので有効桁数は演算における実数の有効桁数が一番少ないもので決まるので、７５．８８の有効桁数４桁をつかって１１３８とするのが正しいのでしょうか？ それとも（測定値）×（測定値ではない値）のときは有効桁数は考慮しないで１１３８．２（１１３８．２０？）とした方が良いのでしょうか？ １５×７５．８８とは７５．８８を１５回足すことなので、１５回足し算した場合は、１１３８．２０が有効数字の扱い方としては正しいですよね？ 大変困っています・・・ 有効数字の扱い方はどうすればよいか教えてください、あまりにも小さい誤差は気にしないとかではなく、有効数字の扱い方はどうすればいいかを教えて欲しいです。
- 締切済み
- 物理学
- 誤差を用いた数値の丸め方
化学成分分析を行った結果 30.0±2.6 wt% といった数値が出力される装置を使っています。 この場合、結果報告には「30」として記載するよう指導されたのですが、誤差と有効桁数の関係が良く分かりません。（この表記自体、間違いかもしれませんが） 誤差の桁数が測定値を丸める際に影響を及ぼす範囲について教えて下さい。 例えば上記の分析結果が 30.0±0.6 wt% や 30.0±0.06 wt% だった場合には、どういう風になるのでしょうか。 宜しくお願いします。
- ベストアンサー
- 数学・算数
- 計算値と理論値の誤差について
交流回路の実験をする前に、ある回路のインピーダンスZ（理論値）を計算で求めたあと、実験をしたあとの測定値を利用して、同じ所のインピーダンスZ（計算値）を求めると理論値と計算値の間で誤差が生じました。 そこでふと思ったのですが、なぜ理論値と計算値の間で誤差が生じるのでしょうか？また、その誤差を無くすことはできるのでしょうか？ できるのなら、その方法を教えてください。 あと、その誤差が原因で何か困る事はあるのでしょうか？ 教えてください。
- ベストアンサー
- 科学
- 実験値につける誤差の計算方法
実験で得た数値の誤差の計算方法に悩んでいます。 実験値ｘとyがあったときに、それぞれの誤差が x±dx、y±dyとかではなくて xに対しては x＋dx1, x-dx2 yに対しては y＋dy1, y-dy2 というふうにプラスの場合とマイナスの場合で 異なる大きさの誤差を持っていたときに xとyの比、x/yにつけるべき誤差の計算方法がわかりません。 例えば、高さ6 mという値に対する誤差がプラス方向には3 m、 マイナス方向には1 m で、幅4 mに対する誤差がプラス方向には 2 m、マイナス方向には0.2 mのときに、[高さ]/[幅]の比を 計算したいのですが、これにつくプラス・マイナスの誤差を どうやって計算すればよいのでしょうか。。 x±dx、y±dyのときは x/y に √((dx/x)^2 + (dy/y)^2) とすればよいのは知っているのですが・・・ どなたか教えていただけますでしょうか。 簡単な微分計算なら理解できますが、もともと文系なので できるだけやさしく解説していただけたらありがたいです。 よろしくおねがいします。
- 締切済み
- 物理学
- 有効桁数が大きくなると誤差が大きくなる
振り子のシミュレーションで、Δtを小さくしていくと相対誤差が大きくなるという結果が下のように出てしまいました。これはどのように結論付ければよいのでしょうか？有効数字はΔt=0.001で3桁、0.0001で4桁、 0.00001で5桁としました よろしくお願いします 理論値 1.6403 Δt 測定データ 相対誤差 0.001 1.64 0.0183 0.0001 1.643 0.1646 0.00001 1.6434 0.18899
- ベストアンサー
- 物理学
- 有効桁数について
レポートで有効桁数というものが出てきたんですが良く分かりません。つまりは有効桁数というのは、 「1.5－0.15=1.3」というので、小数点以下の計算の場合、結果は精度が低いほうの桁で応えるというものですよね？？（汗） 聞きたいのは単位を「mm」から「m」に直したときの有効桁数のことなんですが、 例えば「100.5mm－10.3mm=90.2mm」じゃないですか？ これを[m]に直したときの有効桁数は、 「0.0902m」なんですか？ それとも「0.09m」なんでしょうか？ 良く分からないのでよろしくおねがいします。
- ベストアンサー
- その他（学問・教育）
補足
誤差の計算について 1.21×10^3Ωを1210Ωとみなして実測値1204Ωとの誤差を6Ωとしてもよろしいのでしょうか？ もし、これが成立した場合 1.21○○○×10^3Ωの○の部分が出ていないので、上記の誤差は信頼できるのでしょうか？