- 締切済み
エクセルの計算が？
エクセルで下記計算を行ったところ 計算結果に端数が？？？ どなたか、理由と解決方法を教えて下さい。 738.44-730＝8.44000000000005
- 9494786
- お礼率85% (12/14)
- その他([技術者向] コンピューター)
- 回答数2
- ありがとう数2
- みんなの回答 （2）
- 専門家の回答
みんなの回答
noname#206655
回答No.2
ありゃりゃ、ｕｂｕｎｔｕ の LibreCalc でやってみたのね、標準状態で。 上の例だと ４ のあとに １１個の ０ があるけど、LibreCalcは１４個だぞ。 （どうでも良いことだけど） ちなみに、減数も被減数も桁数をあげたら答えも「０」になった。 表示の「丸め」んとき、処理に差があるのかな。 何れにせよ、関数で桁数を四捨五入とかする必要ありとみた。
- FEX2053
- ベストアンサー率37% (7991/21373)
回答No.1
それは、Excelのクセでそうなるんです。 なのでExcel的にはそれで正しい計算をしているんです。 要は「２進数計算をすると、小数がある数値は絶対答えは 正しくない」ってことなんですけどね。詳細はこちらを。 http://pc.nikkeibp.co.jp/pc21/special/gosa/eg1.shtml
