有効桁数について

質問

レポートで有効桁数というものが出てきたんですが良く分かりません。つまりは有効桁数というのは、
「1.5－0.15=1.3」というので、小数点以下の計算の場合、結果は精度が低いほうの桁で応えるというものですよね？？（汗）
聞きたいのは単位を「mm」から「m」に直したときの有効桁数のことなんですが、
例えば「100.5mm－10.3mm=90.2mm」じゃないですか？
これを[m]に直したときの有効桁数は、
「0.0902m」なんですか？
それとも「0.09m」なんでしょうか？

良く分からないのでよろしくおねがいします。

回答No.1

daisangenn · ベストアンサー

有効数字には桁数が存在します。例えば、123456を様々な有効数字で示すと下のようになります。
有効数字２桁：1.2*10^5
有効数字３桁：1.23*10^5
有効数字４桁：1.235*10^5
（最初の1.23などで有効数字の桁数を示し後の10^5などで実際の数値の大きさに合わせる。もし123456と書いたら有効数字６桁と解釈される)

様々な有効数字の桁数を持った数値の計算して得られた数値の桁数は最も低い桁数のものに合わせます。例えば、
（有効数字３桁）－（有効数字２桁）＝（有効数字２桁)
になります。具体的には、
・3.21-2.1=1.1
・3.21-2.1*10=1.8*10
となります。

問題の90.2mmをm単位に換算する方法ですが、90.2mmの有効数字は３桁なのでmに直すと9.02*10^(-2)になります。ちなみに0.0902は有効数字３桁、0.09は有効数字１桁と解釈されます。

小数の有効数字は0以外の数字が始めてきた位(0.0902では9の位)を有効数字１桁目として数える。

ということであってたと思います。

補足

えっとつまり、90.2[mm]の有効桁数は3桁だから、
メートルに直して表記すると、9.02E-02[m]ってことなんでしょうか？
左側で有効数字3桁にあわせて、10^(-2)で調整する？？
例えば、1005[mm]は有効数字3桁でメートルに換算すれば、1.00*10^(-2)[m]ということでしょうか？

回答No.3

kikero

有効数字とは、その桁の測定の確かさが保証されている数値です。　表記している桁数が多いから有効桁数が多い訳ではありません。
　御質問の数値も、それをどんな測定装置で測ったかにより有効桁数は変わるので、文面からは推し図れません。

　例えば、100.5mmをノギスで測ったのなら、0.1mmの所はバーニア目盛りを使用しているので余り精度は無く、丸めて、有効数字は100mm又は0.100mになると思います。
　又、布製の巻き尺で測ったとすれば、1mm単位は信頼できないので、有効数字は1.0*10^2mm又は0.10mでしょう。

　それから、mmとmの表現により有効桁数が変わると言う事はありません。
　0.0902の少数１位のZEROは有効桁数の一部ではなく、位取り用ですから、9.02*10^-2と表記する方が誤解がありません。

回答No.2

daisangenn

#1のdaisangennです.

>>えっとつまり、90.2[mm]の有効桁数は3桁だから、
>>メートルに直して表記すると、9.02E-02[m]ってことなんでしょうか？
>>左側で有効数字3桁にあわせて、10^(-2)で調整する？？

そのとおりです.他に例を挙げますと100は有効数字3桁で1.0*10^2は有効数字2桁です.

>>例えば、1005[mm]は有効数字3桁でメートルに換算すれば、1.00*10^(-2)[m]ということでしょうか？

1005[mm]→1.01[m](有効数字3桁)になります。

ちなみに、理論値は有効数字を考慮しません.

お礼

ありがとうございます。
しっかりと理解できました♪