有効数字

質問

掛け算、割り算の混在する計算における最終的な答えの有効数字は、「最も小さい有効桁数にまとめる」ことがJISで定められています。
　例　5桁x3桁÷2桁x4桁→2桁にまとめる

しかし、この考え方は本当に正しいでしょうか？

例えば、有効数字0.90に対する0.01の影響は約1%です。
これに対して、有効数字0.20に対する0.01の影響は5%で、上記よりもはるかに影響が大です。

単に「”桁数”で見切って処理する」というやり方は、理論的に間違っているのではないでしょうか？

統計理論上の質問です。

回答No.13

ht1914 · ベストアンサー

２桁×２桁の結果を２桁取るということは３桁取っても無意味であるという意味です。１桁目は確かです。結果の２桁目の数字は誤差を含んでいます。その数字の両側に±αと幅を持っています。α　が４とか５になれば２桁目の数字はほとんど意味のないものになってしまいます。α　が１とか２程度であれば２桁目の数字は曖昧さはあるが無意味ではないということになります。誤差の大きさ　α　は元の２桁の数字の組み合わせによって変化します。
これは難しい理屈を使ったものではありません。はじめ四捨五入で考えた曖昧さが結果にどう響いていくかを計算で示しただけのものです。

＞（例えば）乗除算のルールで「２桁ｘ２桁の乗除算では２桁をとる」という手法は、数値信頼性の観点からは一歩引いている（採用された数値の精度が２桁あることを保証するものではない）と考えてよろしいでしょうか？

上に書いたような意味ですのでいいと思います。ただこれしか選択の余地がないのです。２桁目が誤差を含んでいるからと言って１桁目だけにするのであれば荒っぽすぎます。

お礼

度々のご回答有難うございました。

この場を借りてお二方にお礼を申し上げます。

回答No.2

noocyte

> 単に「”桁数”で見切って処理する」というやり方は、
> 理論的に間違っているのではないでしょうか？

とりあえず乗算の有効桁数について，少し大雑把な証明をしてみます．
(精確・厳密ではありません．)

ある数値 Ｘ (真値) を四捨五入して有効数字ｍ桁に丸めた値を Ｘ' とする．
乗除算の有効数字なので，考えやすいように Ｘ' の指数部を無視し，
仮数部だけを取り出して 1 ≦ Ｘ' ＜ 10 と仮定しても一般性を失わない．

Ｘ' に対する真値Ｘの範囲は，四捨五入の意味を考えると，
Ｘ' - 5 * 10^(-m) ≦ Ｘ ＜ Ｘ' + 5 * 10^(-m)．

真値に対する相対誤差 (Ｘ'/Ｘ － 1) は次のようになる．
-5 * 10^(-m) / Ｘ ＜ Ｘ'/Ｘ － 1 ≦ 5 * 10^(-m) / Ｘ．

したがって相対誤差の範囲は約 ±5 * 10^(-m)．

同様に別の数値 Ｙ (真値) を四捨五入して有効数字ｎ桁に丸めた値を Ｙ' とすると，
その相対誤差範囲は約 ±5 * 10^(-n)．

したがって積 Ｘ' * Ｙ' の相対誤差範囲は
約 ((1 ± 5 * 10^(-m)) * (1 ± 5 * 10^(-n)) － 1)．

この最大値は，ｍ≠ｎならば約 ±5 * 10^(-min(m, n))，ｍ＝ｎならば約 ±10^(1-m)．
後者の場合は，有効数字ｍ桁目に±１の誤差を含むことになり，
それ以下の桁は全く信用できません．したがって有効桁数はｍです．
前者の場合は，有効数字 min(m，n)＋1 桁目に±５の誤差を含むことになり，
この桁以下は全く信用できません．したがって有効桁数は min(m, n) です．

回答No.1

noocyte

> 例えば、有効数字0.90に対する0.01の影響は約1%です。
> これに対して、有効数字0.20に対する0.01の影響は5%で、
> 上記よりもはるかに影響が大です。

これは有効数字に対して「加減算」を行った場合の影響です．
前提である「乗除算」ではありません．