• 締切済み

有効数字について

有効数字について 電気系の実験において、有効数字がそれぞれI(1ケタ)、V(4~5ケタ)という測定値を得たとします。 このとき、他に有効数字がL(2ケタ)、S(2ケタ)という数値を用いて、 ρ=(S/L)*(V/I) という計算を行ったとします。 この時、ρの有効数字も、有効数字が最小ケタ(1ケタ)のIに合わせて、1ケタとして最終的に値を出せば良いのでしょうか? また、測定結果をまとめた表を書く際、I,V,ρの値をそれぞれ示したいのですが、 この時には、「有効数字をそろえて」Vの実際の測定値も有効数字1ケタに丸めなくてはいけないのでしょうか? Vの値はそのまま表に記載した方がいいのでしょうか? 「有効数字をそろえて」と書いたのは、「有効数字をそろえる」という言葉の意味がイマイチ理解し切れていないためです。 あまり上手い日本語で書けていないかもしれませんが、 ご教授のほど、よろしくお願いします。

みんなの回答

  • sanori
  • ベストアンサー率48% (5664/11798)
回答No.1

こんにちは。 >>>この時、ρの有効数字も、有効数字が最小ケタ(1ケタ)のIに合わせて、1ケタとして最終的に値を出せば良いのでしょうか? そうせざるを得ないです。 2桁にするずるい人もときどき見かけますが。 >>>また、測定結果をまとめた表を書く際、I,V,ρの値をそれぞれ示したいのですが、 >>>この時には、「有効数字をそろえて」Vの実際の測定値も有効数字1ケタに丸めなくてはいけないのでしょうか? 個々の数字は計算結果ではなく実測値ですから、少なくとも、Iの計算値に影響を与える桁、すなわち有効数字の一つ下の位(2桁)までは示すべきです。 >>>Vの値はそのまま表に記載した方がいいのでしょうか? 上述の通り2桁までが適切です。 >>>「有効数字をそろえて」と書いたのは、「有効数字をそろえる」という言葉の意味がイマイチ理解し切れていないためです。 ρの値は1桁にそろえる(そろえざるをえない)ということですね。 以上、ご参考になれば。

関連するQ&A

  • 測定値と有効数字

    目盛りのついた測定機器を用いて、測定値を求めた場合の有効数字の考え方がよく分からなくて困っております。例えば、以下のような場合ではどのように有効数字を取ればいいのでしょうか? 例)ノギスを用いて(最小目盛り0.1)2つの試験片の長さLを測定し、測定値を用いてX=L×3.14の計算を行う。 <試験片a> L : 1.12 <試験片b> L : 11.24 この場合 aの有効数字3桁で1.115から1.125の中に真値あり(誤差±0.05) bの有効数字4桁で11.235から11.245の中に真値あり(誤差±0.05) と考え、最終的に計算式に代入すると <a> X=1.12×3.14=3.5168=3.52 ← 有効数字3桁で3.515から3.525の中に真値(誤差±0.05) <b> X=11.24×3.14=35.2936=35.29 ← 有効数字4桁で35.285から35.295の中に真値(誤差±0.005) として良いのでしょうか?同じ測定機器から求めた値にも関わらず、掛け算を行ってしまうと、測定誤差が異なってくるのに違和感を感じます。 回答よろしくお願いします。

  • 物理学実験の計算 有効数字

    大学で物理学実験をしていてふと疑問にかんじた点があったため質問したいと思います。 V1 = 91.0〈V〉 V2 = 22.0〈V〉 V3 = 70〈V〉 I  = 2.16〈A〉 S  = 15.092・・ =15(有効数字2桁のため) P  = 14.2・・  =14(有効数字2桁のため) という測定結果がでたんです。 この結果からQをだすんですが、 (ちなみに、Q=√(Sの二乗 - Pの二乗)です) この場合はSとして15を代入するべきか15.0を代入するべきか迷ってます。Pについても同様です。 結果はS=15、P=14をいれると、Q=5.4という結果になり、S=15.0、P=14.2を代入するとQ=4.8になります。どちらが正しいのかわかるかた答えてくれるとありがたいです。 できれば詳しい解説もよろしくお願いします。

  • 有効数字 実験の表

    表にVとIがあるのですが、有効数字をとる時、Vを2ケタIを3ケタと取ることは良いのでしょうか? それとも、どちらも同じ桁数にすべきでしょうか? 教えてください。

  • 有効数字の桁数について

    ある試行において5と1191597のような値を測定し、 5/1191597としたときに解が0.000004196となりますがこの場合有効数字は何桁になるのでしょうか?分子が一桁なので4*10^・・・と表さないといけないのでしょうか? 条件を変えた試行では分子が4,5桁にもなるので同じ表に表すときにはこれらも有効数字が一桁ということになってしまうのでしょうか? なんとか4桁くらいまでは有効数字として使いたいのですが・・・ よろしくお願いします

  • 有効数字について

    有効数字についてよく分からないところがあるので質問させてください。 例えば、最小目盛りが1 mmのものさしで、ある長方形の紙の縦と横の長さを測定し、面積を求めるとします。 測定は最小目盛りの1/10まで読み取るため、縦、横の長さの読み取りは0.1 mmまで読み取ります。 以下が測定した値とします。 縦の長さ・・・1.23 cm 横の長さ・・・98.76 cm そして面積を求めると121.4748 cm^2となります。しかし有効数字を考えると縦は3桁、横は4桁であり、積は有効数字の小さいほうにあわせるのでこの場合は3桁にしなくてはならない、つまり面積は121 cm^2となる、ということでいいのでしょうか? 何かしっくりこないのです。 もっと極端に言うとものさしを使って長方形の紙の面積を求める際、縦が非常に長くて(1122334455667788.99cm)横が非常に短い場合(0.02 cm) 有効数字を考えると縦は18桁、横は1桁なので面積は有効数字1桁で表さなくてはならないということになってしまうのでしょうか。 これだったらせっかく縦を有効数字18桁まで測った意味はなくなるような気がします・・・。(結局面積は2*10^13 cm^2としか表せない) これでいいのでしょうか?どなたかお教えいただけないでしょうか。お願いいたします。

  • 有効数字についてなのですが

     今度大学の実験で信号伝送のビット誤りの実験があるのですが、信号を送ったときに発生するBER(bit errer rate)の値を、測定回数と情報ビット数などを加減して、BERの有効数字が2桁確保できるようにしろとのことなのですが、この「有効数字が2桁確保」という言葉をどのように解釈すればよいのか理解ができません。  これはBERの値が0.05、0.04、0.06の平均をとった場合は有効数字が1桁しか確保できていなくて、0.054、0.046、0.056の平均をとった場合は2桁確保できているというように解釈すればよいということなのでしょうか?  初歩的なことで申し訳ないのですが、詳しいかたがいらっしゃれば教えてください。

  • 有効数字について

    0.0001gまで測定できるはかりで秤量して得た数値のみを使って計算を行なった場合は小数点以下四桁までが有効ということでいいのでしょうか。 上記のはかりを用いて秤量した場合で、たとえば  2.3345gと10.2325g という値が得られたとして、これら二つの値の有効数字は違うのでしょうか。何回も有効数字について書かれたものは見ているのですが、いまいちよくわからないので教えてください。

  • 有効数字

    ごくごく基本的な有効数字の考え方は自分なりに調べました。 間違っていたら訂正してください。 加法・減法では 一番大きい最小位をもつ値にあわせる。 つまり  12.3+0.74=13.0 乗法・除法では 一番少ない桁をもつ値にあわせる。 つまり   4.37×5.1=22.3 ここからが質問なのですが、 加減法をした後にその数値を二乗する場合、 例えば  (36.85-36.1)二乗=0.5625 となった場合、有効数字はどうしたらいいんでしょうか? 理解のために出来れば解説つきでおねがいします。

  • 有効数字は自分で決めれるのか

    こんにちは有効数字について分からないことがあります。 例えば実験で電流が0.05Aで電圧が0.10Vだったら有効数字は1桁と2桁だから1桁として抵抗は2Ωですよね? それで電流を0.5×10^(-1)Aで電圧を1.0×10^(-1)とすれば有効数字は2桁と2桁だから2桁として抵抗は2.0Ωになるのでしょうか? 実際に次のようになってしまったんですがいいのでしょうか? 電圧0.09Vで電流0.030Aだから抵抗は2Ω 電圧0.12vで電流0.030Aだから抵抗は4.0Ω 同じ測定結果でも有効数字が違ってしまいました。ここで0.09を0.9×10^(-1)とかければ2.0Ωになると思うのですがこんなことをしてもよろしいのでしょうか?質問の内容が伝わりにくいかもしれませんがご回答よろしくお願いします!

  • 有効数字

    12345.67890の有効数字は10桁でいいのですか。(どの値も測定して確かな場合) 有効数字がイマイチよく理解できないので、分かりやすい考え方などがありましたら教えてください。