有効数字の取り扱いについて

質問

少し細かいことですいませんが、有効数字の取り扱いについて質問させてください。
問題で、[有効数字 3 桁で答えよ]とあった場合、文献値は何桁でとってくればいいのでしょうか？
友達の話では、この場合 4 桁でとってきて、最終的に四捨五入し 3 桁で答えればいいらしいのですが、その時例えば、ボルツマン定数 1.38066*10^-23 J/K では、1.380*10^-23 でしょうか、それとも少数第 4 桁目を四捨五入し 1.381*10^-23 でしょうか？
また、真空中の光速度は 2.99792458*10^8 m/s と定義されているようですが、この時はどうなのでしょうか（定義されているので、そのまま計算に使うのかどうか）？
さらに質問なのですが、計算途中で得られた数値を次の式に使いたい場合は、有効数字何桁でとって次の計算に使うのでしょうか（この場合においても四捨五入が必要なのかどうか）？
ご存知の方がいらっしゃいましたらご回答よろしくお願いします。

回答No.1

Umada · ベストアンサー

(1)Boltzmann定数の例ですが、どちらかを取れと言われたら四捨五入にします。
その方が真値との差が多少でも小さいからです。四捨五入の誤差は切り捨てより常に小さいことは申し上げるまでもありません。

(2)真空中の光速度は小数点以下8桁まで全部使って計算してもよいですが、最終的な解答で有効数字がそこまでの桁数求められていなかったり、あるいは掛け算する相手の有効数字が3桁しかなかったり、というのでは8桁(有効数字では9桁)計算しても無駄に手数が増えるだけでなんら実質的な意味がありません。
実際問題としては最終的に要求されている有効数字の桁数より1桁か2桁余分にとって計算し、最後に必要な桁数に丸める方法で十分でしょう。

(3)計算途中の値をまた別の計算に用いる場合も同様に、最終的に必要な桁数より1桁多くとっておいて最後に丸めれば十分です。四捨五入と切り捨てのどちらがよいか、ということであれば(1)と同じ理由で四捨五入を勧めます。

お礼

早速の回答ありがとうございます。
（1）も（2）も（3）も言われてみるとどれもすごく納得がいきました。
特に（2）は有効数字というものを考えてみれば、むやみに桁数を多くとっても意味がないというのはあたりまえでしたね。
細かい事でしたが、助かりました。

回答No.5

brogie

一般的には、有効数字の取り方は皆さんのやり方でよいと思いますが、乗除計算を４、５回すると有効数字は1桁減ります。それ以上の計算をするのであれば、有効数字の桁に余裕を取らなければなりません。誤差の伝播について調べて見て下さい。
　昔、小生は次のような経験をしたことがあります。パソコンを用いて計算したとき、単精度では、正しい値が得られず、倍精度で計算したことがあります。
　心配なら、Excelで計算して、誤差を試してください。9.876を5回掛けると、3桁目は正しくありません。有効数字２桁です。
老婆心ながら(^^;

回答No.4

ikkyu3

科学や工業の分野で使用する数値の丸め方が、国際規格ＳＩを参照している日本工業規格ＪＩＳで定めてあるので下記します。
たくさんの数値を扱うと丸め方で結果が違ってくることがあります。
おそらく理系を学ばれるかたは、将来社会に出ても、実験や測定あるいは設計又は文献の数値をどう丸めるかが必要ですので、学ぶ機会があると思います。

http://www.ccr.niigata-u.ac.jp/home/kimura/ce-h10/numerical/round.html
http://www.asia-u.ac.jp/~uetake/njis.htm

参考URL：

http://www.ccr.niigata-u.ac.jp/home/kimura/ce-h10/numerical/round.html

お礼

回答ありがとうございます。
参考 URL 見ました。
その中の項目[2]のような、数値を丸める方法が存在するのははじめて知りました。
その次の URL においても「数値の丸め方について明記しない場合は、規則Ａが適用されるものとし」とありこれが一般的なのですね。
私が見てきた教科書なり何なりにもこれが適用されていたのでしょうか？私は全く気がつきませんでしたが・・・（どれもみな普通に四捨五入してあるだけにしか見えませんでした）。
参考 URL ありがとうございました。

回答No.3

noname#21649

最近は電卓の使用が多くなってきて．最後の段階で有効桁に丸めるということが多くなりました。
電卓が普及する前の頃は．それぞれの計算で有効桁をあわせて計算し．有効桁をあわせ．結果を記載するとの計算方法が多かったです。というか．この方法だけでした。

あと．丸めには．ＪＩＳは関係ありませんね？。ＪＩＳの丸めと学校関係の丸めでは一部違う場合があります。

お礼

回答ありがとうございます。
有効数字の扱いについて、何か規格でもあるのでしょうか？
友達と同じレポート課題の答え合わせをやっていると最後に得られる数値は、最後の桁が少しずつ違っている事が多いです（友達同士もそれぞれに違っていて、そういう状況になるとどれがもっともらしい答えなのかなとちょっと思ったりもします）。
私は高校の物理の授業ではじめて有効数字なるものに出会いましたが、そのときは雑談程度でした。友達も同じような感じで、みんな結構適当にやっています。
解法は同じでも計算過程によって（途中でいちいち計算をするのか、一発で求まるような式を作ってから計算するのかで）少しずつ違ってくるのはしょうがないのでしょうね。

回答No.2

ymmasayan

No.1の Umada さんの回答でよいと思いますが、若干補足を。

途中の計算の桁数を、何桁でやるかについては目的と場合によるというべきでしょう。
試験の答案なら、（たいてい電卓持込でしょうから）出来るだけ多い桁数でやりますし、実用上の計算なら、最終の桁数＋１～２桁で充分でしょう。筆算でやれと言われたらやはり Umada さんの言われる方法でしょう。

有効数字の丸めについては必要桁数の1つ下の位を４捨５入と言うのは Umada さんの回答の通りです。

次に、途中結果を表示しながら、計算を続けるときに、次の計算にどちらの桁数を使うべきか迷うことがあります。（筆記式の試験などで）
使う桁数によって、答えが微妙に違ってしまいます。
このようなときには、「計算はあくまでも丸めずに、途中経過の表示は丸めて」と言うのが多数意見のように思います。が解説書などにも両方の計算があって必ずしも統一されていないですね。

お礼

回答ありがとうございます。
「計算はあくまでも丸めずに、途中経過の表示は丸めて」-- 確かに、問題集などで、途中の計算結果から導き出される数値と、答えが多少一致しないものがあったような記憶があります。
レポートなどでは、この方法で統一していこうと思います。
とても参考になりました。ありがとうございました。