- 締切済み
小数点の四捨五入で分からないことがあります
例えば、0.230978という値を小数点第4位を四捨五入したら、答えは0.231ですか?それとも0.2310が答えですか? また、0.8という値を小数点第1位を四捨五入したら、答えは1.0ですか?それとも1ですか? よろしくお願いします。
- みんなの回答 (6)
- 専門家の回答
みんなの回答
- g27xxxxx
- ベストアンサー率28% (124/441)
小数点以下を表示する場合、 小数点以下第4位を四捨五入、又は切り上げ、切り捨てした時には、 第4位は必ず「0」となります。 このような場合は、「0」以外の数値ではないことを示すために、敢えて第4位以下は表示しません。 第3位までの表示(0.231)にとどめます。 同じ理由で、小数点以下を四捨五入した場合は整数だけの表示(1)となります。
- asuncion
- ベストアンサー率33% (2127/6289)
有効数字に触れている回答があるが、今回の質問の趣旨とは 関係ない気がする。 小数第4位を四捨五入した結果は小数第3位まで。 小数第1位を四捨五入したら結果は整数部まで(小数点以下はない)、 というだけの話。
- bgm38489
- ベストアンサー率29% (633/2168)
四捨五入とは、必要とする位の次の数が4以下ならば切り下げ、5以上なら切り上げるという方法。 おっしゃる「小数点第4位を四捨五入する」は、0.231の時は「下3桁(シモサンケタ)で四捨五入する」、0.2310の時は「下4桁で四捨五入する」という言い方が正しい。 152を150にするとき、「十の位で四捨五入する」というのと同じ。
- 麗 李(@reisinki)
- ベストアンサー率45% (125/274)
普通に考えれば、0.231も0.2310も同じです。 ただ、質問されている数字が何の数字かで全然違ってきます。 これが物理の回答などの数字であれば0.231と0.2310は別であり「有効数字」の観点から0.231は不正解とされます。 物理では有効数字というのを考えます。 どれだけその桁数を持つ数字に有効性があるかという指標です。 速さが1m/sだと書かれると、これには誤差が含まれているでしょうから もしかしたら1.3m/sかもしれないし、0.8m/sかもしれません。 約1m/sという目的で1m/sと書きます。 これを1.0m/sと書くと、1.0までは有効性を保証してくれるわけです。 1.0m/sと書かれていれば、これは約1.0という意味で 真値は1.3m/sだった、とは言えないですよね。 より精度を上げて表現することが可能になるのです。 おおよその値を四捨五入で与えるならば、 1の真値の範囲は0.5~1.5 1.0の真値の範囲は0.95~1.05 ということになります(終端は含みません)。 1.0の方がより精度が上がって、誤差の幅が小さくなっていますね。 1.0は有効な桁が2桁という意味で、有効数字2桁と表します。
0.231 ですし 1 です。 ある桁までの値がほしい時にする処理ですから その下の桁 0(ゼロ)は、いりません。
- mshr1962
- ベストアンサー率39% (7417/18945)
どっちでも正解です。 単純に表示桁数を四捨五入した桁に合わせてるか否かの違いでしかありません。