- ベストアンサー
有効桁数について
レポートで有効桁数というものが出てきたんですが良く分かりません。つまりは有効桁数というのは、 「1.5－0.15=1.3」というので、小数点以下の計算の場合、結果は精度が低いほうの桁で応えるというものですよね？？（汗） 聞きたいのは単位を「mm」から「m」に直したときの有効桁数のことなんですが、 例えば「100.5mm－10.3mm=90.2mm」じゃないですか？ これを[m]に直したときの有効桁数は、 「0.0902m」なんですか？ それとも「0.09m」なんでしょうか？ 良く分からないのでよろしくおねがいします。
- blue_fire
- お礼率19% (52/272)
- その他（学問・教育）
- 回答数3
- ありがとう数2
- みんなの回答 （3）
- 専門家の回答
質問者が選んだベストアンサー
有効数字には桁数が存在します。例えば、123456を様々な有効数字で示すと下のようになります。 有効数字２桁：1.2*10^5 有効数字３桁：1.23*10^5 有効数字４桁：1.235*10^5 （最初の1.23などで有効数字の桁数を示し後の10^5などで実際の数値の大きさに合わせる。もし123456と書いたら有効数字６桁と解釈される) 様々な有効数字の桁数を持った数値の計算して得られた数値の桁数は最も低い桁数のものに合わせます。例えば、 （有効数字３桁）－（有効数字２桁）＝（有効数字２桁) になります。具体的には、 ・3.21-2.1=1.1 ・3.21-2.1*10=1.8*10 となります。 問題の90.2mmをm単位に換算する方法ですが、90.2mmの有効数字は３桁なのでmに直すと9.02*10^(-2)になります。ちなみに0.0902は有効数字３桁、0.09は有効数字１桁と解釈されます。 小数の有効数字は0以外の数字が始めてきた位(0.0902では9の位)を有効数字１桁目として数える。 ということであってたと思います。
その他の回答 (2)
- kikero
- ベストアンサー率33% (174/517)
有効数字とは、その桁の測定の確かさが保証されている数値です。 表記している桁数が多いから有効桁数が多い訳ではありません。 御質問の数値も、それをどんな測定装置で測ったかにより有効桁数は変わるので、文面からは推し図れません。 例えば、100.5mmをノギスで測ったのなら、0.1mmの所はバーニア目盛りを使用しているので余り精度は無く、丸めて、有効数字は100mm又は0.100mになると思います。 又、布製の巻き尺で測ったとすれば、1mm単位は信頼できないので、有効数字は1.0*10^2mm又は0.10mでしょう。 それから、mmとmの表現により有効桁数が変わると言う事はありません。 0.0902の少数１位のZEROは有効桁数の一部ではなく、位取り用ですから、9.02*10^-2と表記する方が誤解がありません。
- daisangenn
- ベストアンサー率31% (30/95)
#1のdaisangennです. >>えっとつまり、90.2[mm]の有効桁数は3桁だから、 >>メートルに直して表記すると、9.02E-02[m]ってことなんでしょうか？ >>左側で有効数字3桁にあわせて、10^(-2)で調整する？？ そのとおりです.他に例を挙げますと100は有効数字3桁で1.0*10^2は有効数字2桁です. >>例えば、1005[mm]は有効数字3桁でメートルに換算すれば、1.00*10^(-2)[m]ということでしょうか？ 1005[mm]→1.01[m](有効数字3桁)になります。 ちなみに、理論値は有効数字を考慮しません.
お礼
ありがとうございます。 しっかりと理解できました♪
関連するQ&A
- Word2003の差込印刷データ桁数について
Word2003の差込印刷において、EXCELの計算結果、数値を差し込む際に、小数点以下の桁数が10桁にもなります。EXCELのシートで小数点以下の表示桁数は3桁にしています。以前のバージョン（2000）では正しく差し込みできていました。
- ベストアンサー
- オフィス系ソフト
- 桁数の多い計算がしたい
エクセルで桁数の多い（３０桁、小数点も２０桁以上）計算ををしたいのですが、どこか設定を変えれば可能でしょうか。 困っています、よろしくお願いします。
- ベストアンサー
- オフィス系ソフト
- 小数点付の数字の桁数を揃える
＞10 を $suu=sprintf("%03d",$suu); このようにして3桁に揃えると ＞010 ですが、小数ありの数字を上の方法で桁数を揃えると ＞10.5 だった場合、小数点以下が無視され、 ＞010 と表示されます。それを、 ＞010.5 のように小数つきで桁数を揃えたいのですが、 どうすればいいのでしょうか？ よろしくお願いします。
- ベストアンサー
- Perl
- 有効数字の桁数について
有効数字の桁数がよく分かりません。 (1)２．１０ｍｍ が有効数字三桁ならば、５２１ｍｍ も有効数字三桁なのでしょうか。 (2)５２１２１２１ｍｍ だったら、有効数字七桁なのでしょうか。 (3)５．２１×１０＾３ や ５，２１×１０＾－３ は有効数字三桁で良いのでしょうか。 有効数字の計算は桁数が分かれば、多分できると思うので、桁数の考え方について教えてください。 よろしくお願いします。
- ベストアンサー
- 物理学
- 計算結果をコピーすると桁数増加・・・
現在使用しているのはエクセル２００３です。 エクセルファイルでコピーする際に「形式を指定して」「値」にしてコピーした場合、例えば0.024が0.0240000000000009や 0.011が0.0109999999999673と成ってしまう場合があります。 私が必要な桁数は小数点以下3桁まででなので、それ以下の値を排除して小数点以下3桁にまとめたいと考えています。 現在セルの最大桁数は以下の方法で計算しています。 Ro = Application.Round(Cells(Count_R, Count_C).Value, 0) Ab = Abs(Cells(Count_R, Count_C).Value) coun = Len(Ab) - Len(Ro) この式でcoun＞3と成った場合IFで分岐させて小数点以下3桁にまとめる計算式を実行させたいのですが、どの様にすればいいのでしょうか？ よろしくお願いいたします。
- ベストアンサー
- Visual Basic
- Access97 Int関数
小数点の切り捨てをしたくてクエリーで 以下の計算をしてみました。 =Int([個数]*[単価]) ところが以下の数値で計算させると結果が 50232となると思うのですが50231となってしまいます。 数量：460 単価：109.2 結果：50231（電卓で計算すると50232） 結果が小数点になるときは問題ないようです。 使い方が間違っているのでしょうか。 こういう場合Int関数を使うのが誤りなのでしょうか？ だとしたら他に当てはまる関数があるのでしょうか？ ちなみにテーブルの定義としては 数量：長整数型（小数点以下桁数０） 単価：単精度浮動小数点型（小数点以下桁数０） となっていますが小数点は表示されています。
- ベストアンサー
- オフィス系ソフト
- AutoCAD LT 2004 入力時の有効桁数…
AutoCAD LT 2004 入力時の有効桁数設定がわかりません AutoCAD LT 2004を使っています。いつの間にか入力時の有効桁数が変わってしまい、所望のパターンが作れません。(有効桁数小数点以下5桁が2桁になってしまった) 例)0.3mmの円を片側0.115mmオフセットして0.07mmの円にしようとすると、オフセット値が勝手に0.12になってしまい、0.08mmの円になってしまう。 多分どこかで設定可能だと思うのですが、判りません。また、なぜ設定が突然変わってしまったのかも判りませんが、客先データを開き始めたあたりを疑っています。 皆様よろしくお願いします。
- ベストアンサー
- ２Ｄ
- 有意桁数、有効桁数について
有意桁数というものがあって、それが公に認知されている(出所がJISとかその他の公知規格)ものなのか、また有効桁数との関係等を悩んでいます。どなたかそちら方面に詳しい方がいらっしゃいましたら是非教えてください。お願いいたします。 有意桁数 ・測定値に小数点が含まれている場合、または10のべき乗で示されている場合はべき乗以外のすべての桁を有意桁数とする。 例：0.001ー有意桁数3、1.01ー有意桁数3、３×10⁴－有意桁数1、1.25×10⁵ ー有意桁数3 ・べき乗で示されていない自然数の場合で数値の後ろにゼロがある場合は、ゼロを省いた上位の数字の桁数を有意桁数とするが、１桁となる場合は、”2桁”とみなす(最低でも２桁とする)。 例；5000ー有意桁数2、3150ー有意桁数3、10ー有意桁数2、201ー有意桁数3 ・測定値のToleranceは、有意桁の最下位の1つ下の位で四捨五入する値とする。
- 締切済み
- 数学・算数
補足
えっとつまり、90.2[mm]の有効桁数は3桁だから、 メートルに直して表記すると、9.02E-02[m]ってことなんでしょうか？ 左側で有効数字3桁にあわせて、10^(-2)で調整する？？ 例えば、1005[mm]は有効数字3桁でメートルに換算すれば、1.00*10^(-2)[m]ということでしょうか？