有効数字２桁で答えを求める問題で、

質問

有効数字２桁で答えを求める問題で、

答えがP=163.956044・・・・になったので４桁目以下をバッサリ捨ててP=163とした後、

答えをP=1.6×10^2と出しました。

しかし模範解答では、P=163の部分を、P=164として計算していました。

最終的な結論は一緒でしたが、途中経過はどちらも正しいんでしょうか？

回答No.3

BookerL · ベストアンサー

有効数字２桁で答える場合、３桁目を四捨五入します。

P=163.956044

を有効数字２桁で答えるとき、３桁目が ３ なので四捨五入して 1.6×10^2 とします。P=163 という途中の数字は不要です。なお、１６０ と表記するのは有効数字が何桁か曖昧になるので避けます。

　最終結果ではなく、その値を使ってさらに計算を続ける場合は、３桁目まで出しておきます。その場合、４桁目を四捨五入します。今回の例では ４桁目が ９ なので、1.64×10^2 とします。このばあい、１６４ の表記でもかまいませんね。

回答No.2

chie65535

P=163.956044
↓
P=163
↓
P=1.6×10^2

の場合、丸め方法が「切り捨て」でも「四捨五入」でも結果は変わりません。

しかし、以下のような場合

P=169.956044
↓
P=169(切り捨てでの丸め)
↓
P=1.6×10^2

P=169.956044
↓
P=170(四捨五入での丸め)
↓
P=1.7×10^2

のように「丸めの方法の違い」により結果が変わります。

丸め方法について指定が無い場合、どの丸めを使うかは「ケースバイケース」になります。

回答No.1

Ichitsubo

P=163.956...と出たものを有効数字2桁で答えるならP=160です。
P=1.6×10^2のほうがベターですが。

そして、このPの値を次の計算に使うのであれば、一つ桁を増やした値のP=164を用います。
(もちろんP=163.96としてもかまいませんし、計算結果をそのまま用いても良いでしょう）
ただしP=163を用いるのは明らかに間違いです。
「バッサリ切り捨てて」が明らかにおかしいので。

補足

>一つ桁を増やした値のP=164を用います。

163.9を四捨五入して164にしたということでしょうか？