端数処理（少数第ｎ位切上げ、切捨て）の表記法について

質問

「少数第ｎ位（以下）切上げ、切捨て」という表記がある場合、
切上げ（切捨て）対象になる数字は、
「第ｎ位」で指定された数字そのものを対象にすればよいのでしょうか。

例えば、1234.5678 という少数第四位まである数値があるとします。

少数第二位（以下）を切上げする場合、
少数第二位の「6」以降を切り捨て、
小数第一位の「5」を繰り上げた「1234.6」が解となりますでしょうか。
それとも小数第二位までを残す解「1234.57」が正しいということはあるのでしょうか？
（私の理解では前者でしたが）
また、「少数第二位で切上げ」と「少数第二位（以下）を切上げ」では
切上げ位置の取り扱いが異なることはあるでしょうか？

更にもう一つ質問なのですが、
整数 1234.0000（通常は 1234 で表示されると思います）の場合、
少数第ｎ位で切り上げをしても、結果は 1234 で変わりませんよね？

回答No.1

A88No8 · ベストアンサー

こんにちは
　ホントに私見ですが
>少数第二位（以下）を切上げする場合、
　小数（少数ではなくて小数ですよね(^^;）点第二位を切り上げするならば、1234.6
　小数点第二位以下（以下は、以て下とするなので第二位を含む）も1234.6

　もし問題が「桁数、小数点第二位まで求めなさい」ならば、小数点第三位を四捨五入して 1234.57 とすると思います。

　日本語として以上（以下）は指定桁を含む。未満は指定桁を含まないと思っちゃいます。
　整数は、小数を含まない別のもの(自然数)と思ってました。　だから整数で小数第ｎ位で切り上げ（切り捨て）という指定に違和感を覚えます。
　実数なら問題ないですけど。

　はずしていたら、ごめんなさい。

お礼

ご回答ありがとうございます。

ご指摘の通り少数は小数の誤りです。
（見落としてました済みません。。。）

私も以上（以下）について同じ認識です。
やはり「小数第ｎ位を、で」と、
「小数第ｎ位まで（までを）」とで取り扱いが異なる訳ですね。

後半の質問は表現に問題があったようです、失礼しました。
統計などで結果全体の端数処理を行うときに、
中には整数（小数部の無い数値）が含まれることもあるので、
そういう場合、どうなるのだろうかと、ふと気になりましたので。
（切上げる対応を採ることが通常無いのかもしれませんが）

回答No.2

A88No8

こんにちは
そんなに厳格に受け止められたとは恐縮です。
>整数 1234.0000
　整数 1234 と実数 1234.0000 は厳密には違うものですが、アンケートの実務の上なら質問者さんが適切に定義すれば、問題ないでしょう。
　エクセルで数式を入れて処理する場合、整数と実数の場合分けは面倒と思えるので質問者さんがおっしゃるように同じ端数処理をしてしてよいのでは、と考えます。

　当てはまらないかも知れませんが 10進数で表現できる小数を2進数に変換すると、2進数の無限小数になってエクセルでは表現できない場合があり(情報落ち)、またエクセルは表示されている桁数で端数処理をしたかのように見える場合があります。　誤差は累積したときに影響が出ますのでご注意下さい。
例）
セルに=0.3-0.2 の式を埋め込むと 0.1と表示されるが、内部では0.0999999999999999777955395074968691915273666381835..だったりします。

お礼

ご返信ありがとうございます。納得しました。
エクセルの件、勉強になりました。ありがとうございます！