• ベストアンサー

1の位に誤差が出ます。

Tacosanの回答

  • Tacosan
  • ベストアンサー率23% (3656/15482)
回答No.1

A-C=D の C に A×B%=C を突っ込めばそれっぽい値にはなります. ただし真の値とは当然ずれる可能性があるので, 補正する必要はあるでしょう.

ARSE
質問者

お礼

やっぱり補正が必要なんですね。。 ありがとうございました。

関連するQ&A

  • エクセルの計算について質問です

    エクセルの計算について質問です 数値の計算で、電卓で算出した値とエクセルで計算した値とが異なり困ってます。 【計算内容】 A(整数) × B(小数部2桁) = C(整数) ※Cは小数点以下切捨てとしたい ※エクセル計算ではROUNDDOWNを使用 【実際の計算結果】 (1)10,000,010,000.00 × 9999.99 = エクセル:99,999,999,999,999、電卓:99,999,999,999,999 (2)10,000,010,000.01 × 9999.99 = エクセル:100,000,000,000,000、電卓:99,999,999,999,999.9999 (1)は電卓とエクセルで結果は一致しますが、(2)は一致しません。 エクセルで小数点以下第4位が丸められてるようです。 【エクセルで算出したい値】 (2)ではDに999,999,999,999と出力したいです。 関数INTやROUNDDOWNを使ってみたのですが、うまくいきませんでした。 セルCの書式設定と、どの関数を使用すればよいのか教えていただけると大変助かります。

  • C言語による演算時の誤差について

    C言語初心者でどなたかご教授お願いします。 小数点の演算を行うわけではないのですが、 演算を行う数値が大きすぎるために、double型を使用して以下の計算を行うつもりです。 計算結果はlong型(小数点以下切り捨て)です。 double a,b,c; long x; x = (long)((a*b/c/100) 例)  x=(long)((189000*105000/100000)/100) 上記のような計算を行った際でも誤差が発生する可能性があるのでしょうか?

  • IF関数でしょうか? 分からないので教えて下さい。

    IF関数でしょうか? 分からないので教えて下さい。 A1のセルにLの文字が入っている場合は(C1-B1)*D1として、A1のセルにSの文字が入って いる場合は(B1-C1)*D1します。答えは必ず小数点付きになりまして、且つ小数点以下が2桁だったり3桁だったりランダムになります。その少数点を外して整数とする。 これを一つの計算式で構築して値を算出することは可能でしょうか? もし可能なら、どのような式を構築したら良いか教えて頂けませんでしょうか? 面倒な質問で申し訳ありませんが教えて頂けると幸いです。

  • 最適な端数処理方法と処理位置を知りたい

    1から99,999,999,999までの整数Aと0.01から999,999.99までの小数Bがあり、A÷Bの商Cに再度Bを掛けて得られる積をAと同じ値にしたいです。A÷BとC×Bの算出時に四捨五入等・切り捨て・切り上げのいずれかの処理を行わなければならない場合、両式の小数点第何位でどの処理をすれば結果がAになるでしょうか。 よろしくお願いいたします。

  • Excel 小数点以下の切捨て方法

    初歩的な質問で申し訳ありません。   A   B     C 1 9.5  2875  =A1*B1 という式で、C1の計算後の値を小数点以下切捨てにしたいのですが、どうすればいいのか教えてください。 今のままでは四捨五入になっています。 Excelの本で調べてROUNDDOWNを使うのかなとは思ったのですが 既にC1には計算式が入っているからか、上手くできません。 やり方はありますでしょうか?教えて下さい。

  • エクセル 切捨てや、四捨五入で出た値の集計式

    切捨てや、四捨五入で出た値を集計すると、多少の誤差が出る場合があります。どの様な数式にすればいいでしょうか。例題を下記にしるしましたので具体的に教えて下さい。     A          B         C 1   293,500      17,610 2   349,750      2,099       15,512 A1とA2は既定値。B1は、TRUNC(A*0.006,0)で小数点以下切捨て。 B2は、SUM(A2*0.006)で小数点以下四捨五入。 C2は、SUM(B1-B2)。 C2の正解は15,511ですが、1多い答えがでます。

  • 小数点2ケタ以下切り捨てする関数式は??

    以下のような計算をエクセル上で行いたいと思います。 1-((A1+B1)/C1)  という計算式の答えを10倍して、かつ小数点2ケタ以下切り捨て をD1に自動で表示されるようにしたいと考えています。 D1に表示すべき関数式を教えてくれますでしょうか??

  • Excelでの小数点の計算

    小数点以下の部分で計算が上手くいかず困っています。 Excelのバージョンは2007です。 そして、各セルの内容は次の通りです。 A1:8347 B1:4.04 C1:8.66 D1:B1+C1 E1:D1-(3.5+8.3) F1:ROUNDDOWN(A1*E1,1) F1のセルの答えは小数点第2位で切り捨てしなければなりません。 そうすると、答え変わってしまい、正しい結果になってくれません。 この場合の対処法があれば教えてください。

  • エクセル 関数を教えてください。

    エクセル 関数を教えてください。 数点第一位の値が5のときだけ小数点第二位の値で切り上げか切り捨てかを判断します。 小数点第二位が0のときは切り捨て、1以上のときは切り上げ計算になります。 (例)4.50点→4点 、 4.51点→5点 小数点第一位が5以外の場合は四捨五入と同じ要領です。 ●A1に数字入力、B1に計算式をお願いします。

  • Excel 小数点以下を切り捨てた値を集計する方法

    エクセル2010を使っている者です。 小数点以下を切り捨てた状態で集計する方法についてお教えください。 A1 3 B1 9 C1 A2 =rounddown(A1*0.8) B2 =rounddown(B1*0.8) C2 =sum(A2:B2) と値、計算式を入れた場合、C2の値が、2+7で9になってほしいところが、10になってしまいます。 A2とB2が表示上は、それぞれ2、7となっているのですが、計算の時は2.4、7.2で計算されているからだと思います。 小数点以下を切り捨てた状態で集計するにはどうすれば良いでしょうか? よろしくお願いいたします。