有効数字

質問

掛け算、割り算の混在する計算における最終的な答えの有効数字は、「最も小さい有効桁数にまとめる」ことがJISで定められています。
　例　5桁x3桁÷2桁x4桁→2桁にまとめる

しかし、この考え方は本当に正しいでしょうか？

例えば、有効数字0.90に対する0.01の影響は約1%です。
これに対して、有効数字0.20に対する0.01の影響は5%で、上記よりもはるかに影響が大です。

単に「”桁数”で見切って処理する」というやり方は、理論的に間違っているのではないでしょうか？

統計理論上の質問です。

回答No.13

ht1914 · ベストアンサー

２桁×２桁の結果を２桁取るということは３桁取っても無意味であるという意味です。１桁目は確かです。結果の２桁目の数字は誤差を含んでいます。その数字の両側に±αと幅を持っています。α　が４とか５になれば２桁目の数字はほとんど意味のないものになってしまいます。α　が１とか２程度であれば２桁目の数字は曖昧さはあるが無意味ではないということになります。誤差の大きさ　α　は元の２桁の数字の組み合わせによって変化します。
これは難しい理屈を使ったものではありません。はじめ四捨五入で考えた曖昧さが結果にどう響いていくかを計算で示しただけのものです。

＞（例えば）乗除算のルールで「２桁ｘ２桁の乗除算では２桁をとる」という手法は、数値信頼性の観点からは一歩引いている（採用された数値の精度が２桁あることを保証するものではない）と考えてよろしいでしょうか？

上に書いたような意味ですのでいいと思います。ただこれしか選択の余地がないのです。２桁目が誤差を含んでいるからと言って１桁目だけにするのであれば荒っぽすぎます。

お礼

度々のご回答有難うございました。

この場を借りてお二方にお礼を申し上げます。

回答No.12

ht1914

＃８で値０．１１０は０．０９７～０．１２３であり有効数字２桁とあります。従って値は０．１１です。でもこの２桁目の１は曖昧さを持っています。
前に引用した文章をもう一度引用します。
＞信頼性について言っているのなら「ここまでは信用できます」という数字ではなく「これ以上は信頼できません」という数字だと理解する必要があると思います。

この文章を有効数字２桁に当てはめてみます。
３桁目は全く信用できません。３桁目は０です。この０は全く意味を持ちません。
１桁目の１はどうでしょう。これは確かと言っていいでしょう。
問題は２桁目です。２桁目の１はちょっと曖昧なんです。全く意味がないわけではありません。でも必ず１であるとも言えません。２であるか０であるか分かりません。でも３とか４であるということはないでしょう。だから誤差を含んでいますが無意味ではない数字なんです。
有効数字の最後の桁は曖昧さのある数字の中央値を表しています。
でもいつも意味があるとはかぎりません。１２％の誤差があっても意味を持ったのは０．１１０にたいしての１２％だったからです。０．５０に対しての１２％だったら０．４４～０．５６になりますので２桁目はどんな値でも構わないということになり、無意味になります。この場合だと０．５と有効数字を１桁にするしかないことになります。
前に書いたように同じ２桁でも１．０と９．９では精度という意味では大きな差があります。
０．１１の有効数字２桁というのは数字は２つという意味であって実質的な精度でいうと１桁でしょう。０．０９と精度的な内容はあまり変わらないということです。これは＃７で１．０×９．０の例で考えたのと同じ内容になります。

補足

度々のご回答有難うございました。

ご意見の繰り返しになるかもしれませんが、分かりやすい言葉でまとめたいと思います。

（例えば）乗除算のルールで「２桁ｘ２桁の乗除算では２桁をとる」という手法は、数値信頼性の観点からは一歩引いている（採用された数値の精度が２桁あることを保証するものではない）と考えてよろしいでしょうか？

回答No.11

noocyte

> であれば、21回の演算で（上から）2桁目に誤差を持つようになった数値を
> 有効数字２桁で採用するということは、科学的ではない、ことになりませんか？
> （信頼性があるのは一桁だけ）

私は実験家ではないので，誤差を含む桁 (有効数字の最下位の桁) が
実際どう扱われているのか，またどう扱うべきなのか知りませんが，
数学的には次のように考えられるのではないでしょうか？

真値の範囲から，その桁の数字が取りうる範囲を考えたとき，
10通りのうちのＮ通りの値を取り得るとすると，
その桁の「有効桁数」は log10(10/N) である．

例えば，その桁の誤差が±０であればＮ＝１なので「有効桁数」は１．
誤差が±５ならばすべての数字を取りうる (Ｎ＝10) なので「有効桁数」は０．
#8 の例のＹの３桁目は－１～＋２のＮ＝４通りの値を取りうるので「有効桁数」は 0.4．

現実的には，この「有効桁数」に適当なしきい値を設定して，
それ以上かどうかで有効桁として扱うか否かを決めることに
なるのではないかと思いますが，どうでしょうか？

回答No.10

ht1914

＃７です。

＞「桁数（処理）の規則は、科学的とは言えない」と認識してよろしいでしょうか？

「科学的とはどういう事でしょうか。」
私は＃７で
＞信頼性について言っているのなら「ここまでは信用できます」という数字ではなく「これ以上は信頼できません」という数字だと理解する必要があると思います。これは混同されているのではないでしょうか。

と書きました。「これ以上書いても無意味ですよ」というのは十分に科学的な判断ではないでしょうか。得られた数値は使わなければ意味がないです。当たらずとも遠からずで何らかの判断を下したいわけです。有効数字１桁でもオーダーが分かれば一つの結果です。原子の大きさが１／１０＾８程度というのが分かるだけでも凄いことなんです。
信頼できない数字を書くと言うことは科学的ではありません。曖昧さがあればその曖昧さを明らかにした上で数字を示すというのが科学的なんです。
＃６の補足に書かれている信頼性の部分の推論はおかしいと思います。
＃８で書かれているように誤差は演算を繰り返す毎に増幅されていきます。０．６％だった曖昧さが１２％に大きくなっています。
あまりたくさんの数値を組み合わせる計算をやる必要がないように数式の変形等で工夫をしておかなければいけないだろうというのが結論になるでしょう。

補足

そうですね。
「演算を繰り返すことで誤差は大きくなって行く」、のでしたね。

ところで、お二方の理論を結合させて申し訳ないですが・・・

>ANo.8 有効数字２桁目に誤差を含むので，３桁目以下を書いても意味がありません．
>ANo.10 信頼できない数字を書くと言うことは科学的ではありません。

であれば、21回の演算で（上から）2桁目に誤差を持つようになった数値を有効数字２桁で採用するということは、科学的ではない、ことになりませんか？
（信頼性があるのは一桁だけ）

回答No.9

noocyte

#8 の訂正です．m(_ _)m

誤：したがって，Ｘの有効数字「0.09」の21乗である
正：したがって，Ｘの有効数字「0.90」の21乗である

お礼

訂正、訂正と何度も繰り返すのは見苦しいです。
読むほうも考えを混乱させられます。
今後は、もっと文章を推敲してから書き込むようにしましょう。

度々のご回答、有難うございました。

回答No.8

noocyte

> 「0.6%の精度を持つ数値を使って演算した結果が4.5%の精度になる」
> というのは、おかしいとは思われませんか！

これは，「0.6％の精度の数値を使って演算した結果は0.6％」
だとおっしゃりたいのでしょうか？

だとしたら違います．なぜなら，一般には演算によって相対誤差が増幅されるからです．

観測値Ｘの真値の範囲が 0.895～0.905 の場合，
Ｙ＝Ｘ^21 の真値の範囲がどうなるか考えてみてください．

0.895^21 ～ 0.905^21，つまり 0.097338… ～ 0.122919… となります．
この範囲は 0.110128… ± 0.012790… とも書けます．
つまりＹの精度は4.5％どころか，約 ±12％ しかありません．

したがって，Ｘの有効数字「0.09」の21乗である 0.1094189… は
有効数字２桁目に誤差を含むので，３桁目以下を書いても意味がありません．
だからＹの有効数字は２桁です．

そういうわけで，

> ちなみに、上記の数字の丸めで「３桁」をとり、0.109を採用していれば、
> 精度は約0.5%が確保できます。

元のＹの精度が約±12％ (有効数字２桁) しかない以上，
３桁目以降を書いたとしても，それは何の意味もありません．
「書いた有効桁数に応じて精度が決まる」のではなく，
「元の数値の精度が○○％だから，有効数字は(高々)○桁と決める」のです．

回答No.7

ht1914

有効数字というのが単に計算上の数値打ち切りの規則を言っているのか信頼性を言っているのかです。

信頼性について言っているのなら「ここまでは信用できます」という数字ではなく「これ以上は信頼できません」という数字だと理解する必要があると思います。これは混同されているのではないでしょうか。

「２桁×２桁の場合は結果を２桁で示す」というのは「３桁は無意味ですよ」ということであり、２桁で表した数字が充分信頼性があるという意味ではありません。質問に書かれている
＞例　5桁x3桁÷2桁x4桁→2桁にまとめる
では「３桁以上出しても意味がありません」という意味になります。

数値の組み合わせによっては２桁目もかなりあやしいということが起こります。２桁×２桁×２桁だと２桁で表した結果はもっと曖昧になるでしょう。数値の組合わせによっては１桁しか信頼性がないという場合も起こるかもしれません。
２桁×３桁を２桁で表した場合は２桁×２桁を２桁で表した場合よりも信頼性は高いです。
加減の場合は絶対誤差が足し合わさってきますが乗除の場合は相対誤差が足し合わさってきます。
同じ２桁の数字でも１．０と９．９では相対誤差にほとんど１０倍の差があります。この意味では機械的に桁数だけで信頼性を考えるのは無理があるというになります。

やはり例を出した方がいいでしょう。
１．０×９．０＝９．０はどれくらいの信頼性でしょう。
＃１の方がやっておられるのと同じやり方で計算します。
１．０　は　０．９５～１．０４　　です。
９．０　は　８．９５～９．０４　　です。
１．０×９．０　は　８．５０２５～９．４０２５　です。
８．５～９．４まで幅があれば９．０ではなくて９としなければいけないでしょう。形式上は有効数字が１桁少なくなっています。でもこれは桁落ちしたのではありません。１．０という数字の有効桁数が実質１桁しかないからです。
１．００×９．０だと
８．９０５～９．０７６　ですから９．０±０．１ぐらいになります。

いくつかの数字を掛けたり割ったりして結果を求める場合を考えます。
○測定の桁数は一番測定の難しい量の桁数よりも１桁余分であるようにする。（１桁余分に取ることで充分です。２桁と３桁も余分に取る必要はありません。）
○頭の数字が１になる場合は１桁余分に測定しておく。

質問文では桁数の規則と信頼性がごっちゃになっているところがあるように思います。でも「信頼性は相対誤差で考えなくてはいけないのではないか」という点は正しいと思います。

補足

「桁数（処理）の規則は、科学的とは言えない」と認識してよろしいでしょうか？

回答No.6

mojitto

○加減法における有効数字は計算する数値のうち、有効数字の桁数が一番大きなものに合わせます。
Ex.　13.5+3.21=16.71
　　有効数字は小数点以下第一位までしかない13.5に合わせて16.7

○乗除では質問者様の指摘どおり最も小さい有効数字の桁数に合わせます。
Ex.　2.45*1.8=4.41
　　有効数字は２桁の1.8に合わせて4.4

加減乗除が混在する場合はこのルールに則り、適宜有効数字を決めます。

>しかし、この考え方は本当に正しいでしょうか？
これは正しいと言えると思います。
というより自然なことです。
確かに与えられた数字を機械的に計算していけば、今回の質問のように誤差に疑問を抱くでしょう。
しかし、もしそれほど誤差が大きくなることが予想されるのなら、あらかじめ有効数字をもう一桁取れるようにすればいいのです。
統計ならサンプル数を大きくするなどして、より大きな有効数字を使えるようにするなど…
200mlの液体を量る場合、1Lメスシリンダーでなく、500mlメスシリンダーでもなく、300mlメスシリンダーを使ったほうが、より正確な値が取れるのと同じです。

補足

ここに「0.90」という有効数字２桁の観測値があると仮定します。

この観測値の持つ意味は、「真値は0.895000・・・から0.90499・・・の間にある」ということのはずです。
つまり、±約0.6%の精度があります。
（細かいところは省きます）

ここで、何かの演算の必要があって、この数値を21乗したとします。
そうすると、0.10942・・・という計算値が得られるので、前記のルールに則ってこの数値を0.11と２桁に丸めます。
この数値の持つ意味は、、「真値は0.105・・・から0.114999・・・の間にある」ということのはずです。
つまり±4.5%の精度です。

「0.6%の精度を持つ数値を使って演算した結果が4.5%の精度になる」というのは、おかしいとは思われませんか！

ちなみに、上記の数字の丸めで「３桁」をとり、0.109を採用していれば、精度は約0.5%が確保できます。

>あらかじめ有効数字をもう一桁取れるようにすればいいのです。

これはおかしいです。
測定では常に上位の測定法があるとは限りません。
「与えられた条件下で得られた観測値をどう処理するか」を詰めておく必要があるから質問しているものです。

回答No.5

noocyte

さらに #2 を訂正します．m(_ _)m

Ｘ' * Ｙ' の最初の有効桁の数字をａとします．

> この最大値は，ｍ≠ｎならば約 ±5 * 10^(-min(m, n))，ｍ＝ｎならば約 ±10^(1-m)．
> 後者の場合は，有効数字ｍ桁目に±１の誤差を含むことになり，
> それ以下の桁は全く信用できません．したがって有効桁数はｍです．

誤：±１
正：最大±ａ程度

したがって，ａが小さければ有効桁数はｍ，大きければｍ－１．
ただし上記の「最大±ａ程度」は相対誤差の絶対値が最大と仮定した場合で，
実際にはａが大きくなると相対誤差が小さくなるため，
絶対誤差も小さくなります．

> 前者の場合は，有効数字 min(m，n)＋1 桁目に±５の誤差を含むことになり，
> この桁以下は全く信用できません．したがって有効桁数は min(m, n) です．

誤：±５
正：最大±５ａ程度

したがって，有効数字 min(m，n) 桁目に最大±ａ/２程度の誤差を含むことになり，
ａが小さければ有効桁数は min(m，n)，大きければ min(m，n)－1．
この場合も上記の「最大±５ａ程度」は相対誤差の絶対値が最大と仮定した場合で，
実際にはａが大きくなると相対誤差が小さくなる点は同じです．

●例

(1) ｍ＝ｎ＝３の場合
　・ａが最小の１となる例として，Ｘ'＝1.00，Ｙ'＝1.00 とすると，
　 Ｘ ＝ 0.995 ～ 1.005
　 Ｙ ＝ 0.995 ～ 1.005
　 ∴ Ｘ * Ｙ ＝ 0.990025 ～ 1.010025
　 したがって (Ｘ * Ｙ)'＝1.00 の３桁目に±１程度の誤差を含む．

　・ａが最大の９となる例として，Ｘ'＝3.00，Ｙ'＝3.33 とすると，
　 Ｘ ＝ 2.995 ～ 3.005
　 Ｙ ＝ 3.325 ～ 3.335
　 ∴ Ｘ * Ｙ ＝ 9.958375 ～ 10.021675
　 したがって (Ｘ * Ｙ)'＝9.99 の３桁目に±３程度の誤差を含む．

(2) ｍ＝３，ｎ＝４の場合
　・ａが最小の１となる例として，Ｘ'＝1.00，Ｙ'＝1.000 とすると，
　 Ｘ ＝ 0.995 ～ 1.005
　 Ｙ ＝ 0.9995 ～ 1.0005
　 ∴ Ｘ * Ｙ ＝ 0.9945025 ～ 1.0055025
　 したがって (Ｘ * Ｙ)'＝1.00 の４桁目に±５程度の誤差を含む．

　・ａが最大の９となる例として，Ｘ'＝3.00，Ｙ'＝3.330 とすると，
　 Ｘ ＝ 2.995 ～ 3.005
　 Ｙ ＝ 3.3295 ～ 3.3305
　 ∴ Ｘ * Ｙ ＝ 9.9718525 ～ 10.0081525
　 したがって (Ｘ * Ｙ)'＝9.99 の３桁目に±２程度の誤差を含む．

回答No.4

noocyte

誤解してたかもしれないので，ちょっと考え直しました．

> 例えば、有効数字0.90に対する0.01の影響は約1%です。
> これに対して、有効数字0.20に対する0.01の影響は5%で、
> 上記よりもはるかに影響が大です。

これは，有効数字と 0.01 を加減算するという意味ではなくて，
有効数字に含まれる相対誤差のことをおっしゃっているんでしょうか？
それならば #1 は取り消します．
ただ，それが有効桁数に与える影響は #2 に書いたとおりです．

回答No.3

noocyte

ちょっと訂正します．

> 後者の場合は，有効数字ｍ桁目に±１の誤差を含むことになり，
> それ以下の桁は全く信用できません．したがって有効桁数はｍです．

誤：それ以下の桁
正：それより下の桁