- 締切済み
丸め誤差
- みんなの回答 （1）
- 専門家の回答
みんなの回答
切り捨ての例を回答されたようですが、出題者が求めるのは丸め誤差によっておこる計算結果の差異の例ではないですか？ 10÷3×3＝3.33×3=9.99。 10×3÷3＝30÷3＝10。 例えばですが。
関連するQ&A
- dounle型で計算時の誤差
今、ＶC++(MFC)で、15桁の数値まで表示可能な電卓アプリを作成しています。 そこで今つまずいているのが、double型で計算したとき(演算結果が小数の場合)の誤差の問題です。 とりあえず、いろいろなHPなどの情報を見たりして、誤差問題解決を下記のようにしました。 「数値の頭(左側)から16桁目を四捨五入する」 小数の場合はほとんど誤差が生じるため、計算後、計算結果が小数ならば、必ず 上記の誤差処理を行っています。 しかしこれでは、以下の場合に不具合が出てしまいます。 ・ 0.99 999 999 999 999 ÷ 10 = 本来の答えは「0.09 999 999 999 999 9」 ⇒ しかし15桁までの表示なので、本来は「0.09 999 999 999 999」と15桁まで出力 させなくてはいけないのに、16桁目の「9」を四捨五入したせいで「0.1」という表示に なってしまう。 16桁目を四捨五入しないと誤差をとることはできないし、でも上記の例だと正しい結果 が出力されません。 どうしたらいいのか頭を悩ませています。 何か良い解決法等あれば、ご教授お願いします!!
- ベストアンサー
- C・C++・C#
- Monte Carlo法の誤差
Monte Carlo法の計算誤差に関して詳しい本かwebサイトを 教えてください。 知りたい例の一つとして、空間に256個の球がちらばっている状態 にてz軸下から上方向に 数 nrayの光線を入射した時にその面積 計算の誤差(およそ?%のオーダー)を知りたいと思います。 上記は一例ですが、入射光線の数と誤差の関係が他の例でも 知ることができましたらと思います。
- ベストアンサー
- 数学・算数
- 丸め誤差への対処法についての疑問
丸め誤差についてですが、 浮動小数点数の内部表現は2進数である為、循環小数となる「0.1」等を含んだ計算結果は誤差が 生じる事が多く、その対策として「整数にしてから計算し、その後割り戻す」 というのをよく目にします。 例えば、javascriptで行う下記のような計算です。 (1)0.1×6＝0.6000・・・01 ※誤差が出る (2)0.1×10×6＝6 ※整数にしてから計算 (3)(0.1×10×6)/10＝0.6 ※割り戻す この時、(2)の「0.1×10」の箇所で誤差が生じないのは何故でしょうか？ 「0.1」という数字自体が2進数に変換した時既に誤差が生じているのであれば、 誤差が生じている数字に10を掛けてもやはり誤差が残ってしまう気がするのですが。 また、(3)の割り戻し処理では結果が少数となりますが、この時に誤差が生じる事はないのでしょうか？
- ベストアンサー
- JavaScript
- 有効桁数 実験 計算値 誤差 計算など
実験の結果のことについて 測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか？ 誤差の計算について 計算値の結果が有効桁数により、1.21×10^3Ωとなり、実測値1204Ωと誤差を計算する場合、これは誤差を計算できますか？
- 締切済み
- その他（学問・教育）
- 精度と確率誤差
１０ml容ホールピペットの器差を求める実験を行なったんですが、この実験の精度を測ることができません。 各計算結果は以下のように出ました。 ホールピペットの２０℃における内容積を調べたところ、9.974、9.973、9.980という結果が出た。 この平均値は9.976、標準偏差は14.11、確率誤差は9.517であった。 この中で上の確率誤差に着目して精度を測りたいんですが、イマイチ確率誤差の定義が分かりません。 確率誤差と精度はどのように関連していますか？ この実験における確率誤差からは精度に関してどのようなことが言えますか？ 有識者の方ご指南お願いします。
- ベストアンサー
- 化学
- データの相対誤差について
複数のサンプルに対する相対誤差の算出法を教えてください。 例として、真の値１００の場合ケース１の結果が７０、ケース２の結果が１１０、ケース３の結果が９０といった場合これらのケースの相対誤差の算出法はどうなるんでしょうか？単純に平均値で相対誤差をだして ９％になるのでしょうか？質問が分かりにくいかもしれませんが、教えてください。
- ベストアンサー
- 数学・算数
- 実験の誤差について
誤差は主に系統誤差と偶然誤差に分けられますが、最終結果においては 普通これらの誤差をどのように扱うのでしょうか？ 系統誤差と偶然誤差をそれぞれ算出した後、 ・値が大きい方の誤差を最終的な「誤差」とする ・二つの誤差を足し合わせて最終結果としての「誤差」とする ・いずれも実験値の最終的な「誤差」として議論する （特に二つを足したり引いたりするわけでもなく、「統計誤差」「偶然誤差」を どちらも最終的な「誤差」として取り扱っていく） のどれが一般的に行われてることなのでしょうか。それとも、また別の扱い方が されているのでしょうか。 回答よろしくお願いいたします。
- ベストアンサー
- 物理学
- 変成器の誤差と計測器誤差の累積誤差は？
特別高圧66KVの受電端にあるCT（電流変流器100/5A）が誤差1.0%です。 CT2次に繋がる計測器の誤差が2.0%としたばあい。 累積誤差としては1.0%の2乗＋2.0%の2乗の平方根で2.36%という考えは 正しいでしょうか？ あるいはもっと正確な計算にて累積誤差を計算できますか？ それほどの精度は必要としませんが 一般的なレベルで結構です。
- ベストアンサー
- その他（ビジネス・キャリア）
