- ベストアンサー
給与計算をしています．誤差が出るのですが。
kbonbの回答
- kbonb
- ベストアンサー率51% (254/492)
こんにちは 以下のページがご参考になるのでは? 1. Housaka's Home Page http://member.nifty.ne.jp/housaka/ エクセル奇譚 http://member.nifty.ne.jp/housaka/kitan01.html エクセル奇譚 ～ 誤差アラカルト ～ http://member.nifty.ne.jp/housaka/kitan011.html 2. マイクロソフト－サポート技術情報 http://www.microsoft.com/japan/support/ [XL97] 浮動小数点数値演算の結果に含まれる丸め誤差について http://www.microsoft.com/japan/support/kb/articles/J042/5/26.htm [XL97] 数値を比較した結果が正しく返らないケースについて http://www.microsoft.com/japan/support/kb/articles/J042/5/24.htm [XL97] 特定の小数部を持つ数値を入力した場合に誤差を生じる http://www.microsoft.com/japan/support/kb/articles/J042/5/25.htm [XL] 浮動小数点の計算誤差と IEEE フォ-マット http://www.microsoft.com/japan/support/kb/articles/J013/9/67.htm
関連するQ&A
- 計算の丸め誤差の解消について
プログラム上で計算するときに丸め誤差が発生し、困っています。 丸め誤差が発生している計算は -0.004+0.006+0.002 なのですが、 -0.004+0.006+0.002=0 となるところが、 =8.47E-09 となってしまっています。 オーダーの異なる計算ではないにもかかわらず、どうして誤差が発生するのかが理解できず困っています。 上の数値（左辺の方）の算出は、10^(-1)のオーダーの数値から計算されています。 多分、浮動小数点を使っているからだろうと考えているのですが、どのように解消したらよろしいでしょうか？ 固定小数点を用いると、浮動小数点より誤差が少ないとありましたが、Ｃで固定小数点を用いる方法もわからないです。 よろしくお願いします。
- ベストアンサー
- C・C++・C#
- dounle型で計算時の誤差
今、ＶC++(MFC)で、15桁の数値まで表示可能な電卓アプリを作成しています。 そこで今つまずいているのが、double型で計算したとき(演算結果が小数の場合)の誤差の問題です。 とりあえず、いろいろなHPなどの情報を見たりして、誤差問題解決を下記のようにしました。 「数値の頭(左側)から16桁目を四捨五入する」 小数の場合はほとんど誤差が生じるため、計算後、計算結果が小数ならば、必ず 上記の誤差処理を行っています。 しかしこれでは、以下の場合に不具合が出てしまいます。 ・ 0.99 999 999 999 999 ÷ 10 = 本来の答えは「0.09 999 999 999 999 9」 ⇒ しかし15桁までの表示なので、本来は「0.09 999 999 999 999」と15桁まで出力 させなくてはいけないのに、16桁目の「9」を四捨五入したせいで「0.1」という表示に なってしまう。 16桁目を四捨五入しないと誤差をとることはできないし、でも上記の例だと正しい結果 が出力されません。 どうしたらいいのか頭を悩ませています。 何か良い解決法等あれば、ご教授お願いします!!
- ベストアンサー
- C・C++・C#
- 有効桁数 実験 計算値 誤差 計算など
実験の結果のことについて 測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか？ 誤差の計算について 計算値の結果が有効桁数により、1.21×10^3Ωとなり、実測値1204Ωと誤差を計算する場合、これは誤差を計算できますか？
- 締切済み
- その他（学問・教育）
- iアプリでの小数計算の誤差
こんにちは。docomoのiアプリ開発で質問があります。 dojaでは少し前から小数計算が可能になっていますが、double型を使って小数計算をすると、とても激しい誤差がでます。 例えば、 0.3*3 = 0.899999・・・ 5*0.78 = 3.9000000000000004 などです。なにか根本的な解決方法はないでしょうか。
- 締切済み
- Java
- エクセル計算 答えは同じなのに表示が違う
エクセルで下記２種類の計算式をいれて計算すると、 答えは両方とも3.355になります。 書式設定で 表示形式－数値－小数点以下の桁数を２にしてみると、 答えが違ってきます。 なぜでしょうか？ =75-(143.84/2)+(0.45/2)+0.05 =3.36 =((143.84/2)-0.225-75)*-1+0.05 =3.35 『表示形式－数値－小数点以下の桁数』この設定は 計算途中で桁数を２にして計算してしまうのでしょうか？
- ベストアンサー
- オフィス系ソフト
- 計算に使うエクセルの数値の表し方について
初歩的な質問かもしれませんが… エクセルのセル間で、計算式や関数を使って計算を行うと、答えが6.10479547238…などと割り切れない小数になることが多いです。 これを、例えば小数点以下3桁で表示させるには、書式の表示形式を数値にして桁数を3で指定する方法と、ROUND関数を用いて引数を3にするやり方が考えられます。 この計算結果の数値を用いて、さらに別の計算を行う場合(例えば各計算結果の平均値を出すなど)、どちらのやり方で丸めたものを用いた方が正確でしょうか？
- ベストアンサー
- オフィス系ソフト
- Excelでの少数表示
いつもお世話になってます。 Excelで表示形式は数値のまま少数を表示させたいのですが 小数桁が２にしてしてあるのに、少数部が１桁しか表示 されないことがあります。 どうやら整数部の桁数が多くなるときに、その現象が 起こるようなのですが、解決策はありますか？ セルに式を埋め込んでいる場所があるので、表示形式を 文字列にしたくはありません。 表示形式を文字列にしても、セルに埋め込んだ式が正しく 計算される方法があるのならそれでも構いません。 よろしくお願いします。
- ベストアンサー
- オフィス系ソフト
- 会社で給与計算をしているものです。
会社で給与計算をしているものです。 残業代の計算で困っており、ご存知の方がいましたら教えて下さい。 会社では勤怠の管理をエクセルで行っていて残業時間の合計を30分単位で給与計算しますが、その際に小数点以下の30分ごとの切り上げ方法 が分かりません。 例えば、1ヶ月の残業時間合計が、20.3時間だった場合、20.5と表示させたく、又、20.8時間の場合は 21と表示させたいのですが、いろいろ調べてみたもののぴったりした方法に出会うことが出来ません。 お手数ですが、どなたか分かる方がいらっしゃいましたらご教示下さい。 ちなみに、20.5時間の場合はそのまま20.5と表示させたいと考えています。 わかりづらい質問で申し訳ありませんが、宜しくお願いします。
- ベストアンサー
- Windows系OS
- 浮動小数点数の誤差範囲を教えてください
猿より若干頭がいい、冴えないプログラマです。 面積を計算する際は必ず誤差がないように、doubleを使わずcurrencyを使っています。 メートルなら小数点4桁で足りますが、キロメートルとなると通貨型の4桁数では足りません。 doubleを使っても、平方キロを平方センチに変換して集計しても誤差は出ないでしょうか。 実際浮動小数点数はどの程度の誤差を生むのでしょうか。猿でも分かる程度教えてください。 基礎過ぎて動物園に帰れのような批判は勘弁してください。。。
- ベストアンサー
- その他（プログラミング・開発）
お礼
エクセル奇譚面白いですねえ。ありがとうございます。こんなにたくさんのページ恐れ入ります。またおしえてください。