大学受験＿有効数字＿計算方法

質問

（有効数字3桁）　面積　8.00*10^5　km^2
（有効数字2桁）　深度　20　m
（有効数字3桁）　毎秒蒸発する水の量　2.00*10^8　kg/s
（有効数字4桁）　塩分　35.00　パーミル
（有効数字2桁）　日数　10　日
（有効数字3桁）　海水の密度　1.03*10^3　kg/m^3

大学受験の理科で、上記値が問題文に数値として
与えられており、問題の内容は割愛しますが、
全ての数値を使って10日後の塩分が何パーミルか
求める問題がありました。また小数点以下2桁で答えよ、
と問題文にありました。

S予備校の解答では35.371≒35.37で、自分と同じ。
Y予備校の解答では35.36パーミルで答えが若干違います。
そこで質問があります。

１．
大学側が設定した小数点以下2桁、つまり有効数字4桁（？）は
解答として妥当なのでしょうか？
２．
上記値に自分なりに考えて有効数字をあててみましたが、
正しいでしょうか？20mは0.02km、2*10mと考えると有効数字
1-3桁どれでもよいような気がします。
３．
有効数字4桁で答えるときは計算過程において、5桁で計算すべき
でしょうか？それとも6桁？Y予備校では計算過程で1.6307を1.631と
していました。
４．
大学の過去問をみると出版社ごとに解答が異なることが
”非常に”多いです。かっちりとしたやり方って決まっていないのでしょうか？

以上よろしくお願いします。

回答No.2

noname#62864 · ベストアンサー

1.
有効数字４桁は妥当ではありません。ただし、問題内容によっては、妥当ということになる可能性もあります。
小数点以下２桁と指定されているので、35.36などの解答は妥当です。

2.
20 mの有効数字は、１桁ないし２桁と考えるのが妥当です。３桁なら、20.0 mと表記されているはずです。

3.
5桁です。

4.
計算法や、数値の丸め方によって最終的な数値に差が出ることはよくあります。解答としては、誤差範囲内の値であれば問題ありません。
問題の解き方は１つではありません。方法が変われば計算順序も変わります。その過程で四捨五入をすれば結果に差が生じる可能性もあります。どれが正しいとは言えません。

お礼

回答ありがとうございます。
これからはここで得た知識を適用して
解いてみます！

回答No.1

4951snk

＞１．大学側が設定した小数点以下2桁、つまり有効数字4桁（？）は
解答として妥当なのでしょうか？

　有効数字は問題によって決定されるので、解答として妥当です。

＞２．上記値に自分なりに考えて有効数字をあててみましたが、正しいでしょうか？20mは0.02km、2*10mと考えると有効数字1-3桁どれでもよいような気がします。

　まあ、大学が有効数字を決めたんだからそれに従うという姿勢が一番でしょう。

＞３．有効数字4桁で答えるときは計算過程において、5桁で計算すべき
でしょうか？それとも6桁？Y予備校では計算過程で1.6307を1.631と
していました。

　有効数字より1桁多く計算して、最終的に四捨五入するのが普通のやり方です。例外は、分数のままで計算して最終的にはきちんとした整数になる場合です。

＞４．大学の過去問をみると出版社ごとに解答が異なることが”非常に”多いです。かっちりとしたやり方って決まっていないのでしょうか？

　予備校によって違うんじゃないんですかねえ。これはちょっとわかりません。

　それにしても、これは何の科目の問題ですか？

お礼

回答ありがとうございます。
これは地学の海洋問題になります。
水分の蒸発以外の条件を無視した場合に
一定期間の後塩分濃度がどのように変化
するのか、という問でした。

内容的には小学校の塩分の問題と変わりませんが
問題数が多い上に有効数字5桁の計算と記述の嵐
というとんでもない試験でした。