- 締切済み
有効桁数 実験 計算値 誤差 計算など
angkor_hの回答
- angkor_h
- ベストアンサー率35% (551/1557)
> 測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか? たとえば、「測定値20kΩと同20Ωを直列接続したら、それは20,020Ωである」と言っているのと同じです。 測定器の精度も併記すべきです。 > 誤差の計算について 計算値の元となる数値の有効桁と、実測値を測定した測定器精度によります。 計算値1,210と実測値1,204で誤差を比較し、 「互いの精度(有効桁)により、この信頼度は○桁である」 を併記したほうが良いでしょう。 互いに有効数3桁ならば、その評価)考察)は、 同じ値が得られたと判断できる 等としたほうがよいでしょう。
関連するQ&A
- 有効桁数について
ある測定値75.88と測定値ではない任意の数15などを掛け合わしたとき 電卓でこの計算をすると1138.2となります これは掛け算なので有効桁数は演算における実数の有効桁数が一番少ないもので決まるので、75.88の有効桁数4桁をつかって1138とするのが正しいのでしょうか? それとも(測定値)×(測定値ではない値)のときは有効桁数は考慮しないで1138.2(1138.20?)とした方が良いのでしょうか? 15×75.88とは75.88を15回足すことなので、15回足し算した場合は、1138.20が有効数字の扱い方としては正しいですよね? 大変困っています・・・ 有効数字の扱い方はどうすればよいか教えてください、あまりにも小さい誤差は気にしないとかではなく、有効数字の扱い方はどうすればいいかを教えて欲しいです。
- 締切済み
- 物理学
- 誤差を用いた数値の丸め方
化学成分分析を行った結果 30.0±2.6 wt% といった数値が出力される装置を使っています。 この場合、結果報告には「30」として記載するよう指導されたのですが、誤差と有効桁数の関係が良く分かりません。(この表記自体、間違いかもしれませんが) 誤差の桁数が測定値を丸める際に影響を及ぼす範囲について教えて下さい。 例えば上記の分析結果が 30.0±0.6 wt% や 30.0±0.06 wt% だった場合には、どういう風になるのでしょうか。 宜しくお願いします。
- ベストアンサー
- 数学・算数
- 計算値と理論値の誤差について
交流回路の実験をする前に、ある回路のインピーダンスZ(理論値)を計算で求めたあと、実験をしたあとの測定値を利用して、同じ所のインピーダンスZ(計算値)を求めると理論値と計算値の間で誤差が生じました。 そこでふと思ったのですが、なぜ理論値と計算値の間で誤差が生じるのでしょうか?また、その誤差を無くすことはできるのでしょうか? できるのなら、その方法を教えてください。 あと、その誤差が原因で何か困る事はあるのでしょうか? 教えてください。
- ベストアンサー
- 科学
- 実験値につける誤差の計算方法
実験で得た数値の誤差の計算方法に悩んでいます。 実験値xとyがあったときに、それぞれの誤差が x±dx、y±dyとかではなくて xに対しては x+dx1, x-dx2 yに対しては y+dy1, y-dy2 というふうにプラスの場合とマイナスの場合で 異なる大きさの誤差を持っていたときに xとyの比、x/yにつけるべき誤差の計算方法がわかりません。 例えば、高さ6 mという値に対する誤差がプラス方向には3 m、 マイナス方向には1 m で、幅4 mに対する誤差がプラス方向には 2 m、マイナス方向には0.2 mのときに、[高さ]/[幅]の比を 計算したいのですが、これにつくプラス・マイナスの誤差を どうやって計算すればよいのでしょうか。。 x±dx、y±dyのときは x/y に √((dx/x)^2 + (dy/y)^2) とすればよいのは知っているのですが・・・ どなたか教えていただけますでしょうか。 簡単な微分計算なら理解できますが、もともと文系なので できるだけやさしく解説していただけたらありがたいです。 よろしくおねがいします。
- 締切済み
- 物理学
- 有効桁数が大きくなると誤差が大きくなる
振り子のシミュレーションで、Δtを小さくしていくと相対誤差が大きくなるという結果が下のように出てしまいました。これはどのように結論付ければよいのでしょうか?有効数字はΔt=0.001で3桁、0.0001で4桁、 0.00001で5桁としました よろしくお願いします 理論値 1.6403 Δt 測定データ 相対誤差 0.001 1.64 0.0183 0.0001 1.643 0.1646 0.00001 1.6434 0.18899
- ベストアンサー
- 物理学
- 有効桁数について
レポートで有効桁数というものが出てきたんですが良く分かりません。つまりは有効桁数というのは、 「1.5-0.15=1.3」というので、小数点以下の計算の場合、結果は精度が低いほうの桁で応えるというものですよね??(汗) 聞きたいのは単位を「mm」から「m」に直したときの有効桁数のことなんですが、 例えば「100.5mm-10.3mm=90.2mm」じゃないですか? これを[m]に直したときの有効桁数は、 「0.0902m」なんですか? それとも「0.09m」なんでしょうか? 良く分からないのでよろしくおねがいします。
- ベストアンサー
- その他(学問・教育)
補足
誤差の計算について 1.21×10^3Ωを1210Ωとみなして実測値1204Ωとの誤差を6Ωとしてもよろしいのでしょうか? もし、これが成立した場合 1.21○○○×10^3Ωの○の部分が出ていないので、上記の誤差は信頼できるのでしょうか?