有効数字について

質問

計算の際、有効数字をどのように決定すればよいのか分かりません！
教えてください。

回答No.1

notnot · ベストアンサー

物理量であれば、測定誤差があると思います。例えば、1mmの目盛りのある物差しで測った長さはmmの位はただしいけど、0.1mmの位は誤差があります。15.12cmだったとすると、小数点以下2桁までは有効数字です。「誤差が含まれるがその上の桁は正しい」というところまで含めます。

デジタルで計測されるものは、表示される最小桁が誤差含みの桁になりますので、全部が有効数字です。

15.12cmというのは実際には、15.115～15.125cmということです。
計算の時は、それを考慮して計算すれば良いです。