- 締切済み
計算機における誤差
tatsu99の回答
- tatsu99
- ベストアンサー率52% (391/751)
浮動小数点に関する計算の誤差と解釈します。 >計算機によって生じる最大誤差を知ることは、真の値を知っていない限り大変だと思います。 真の値を知る方法としては、完全ではありませんが、perlの無限多倍長浮動小数点パッケージ(BigFloat)、JAVAのBigDecimalクラスを使用すれば、ほぼ望んだ結果が得られると思います。 C言語のfloat(double float)の演算結果と、perl,javaでの演算結果での比較により、計算誤差が求められるはずです。全て、Ｃ言語でまかないたいということであれば、Ｃで作成した多倍長演算のライブラリが（どこかに）あるはずですので、それを探せば良いでしょう。「多倍長」をキーワードにして検索してみてください。
関連するQ&A
- Perl:計算誤差について
お世話になります。 Perlを使って、計算機には誤差があるという話をしようと思って、 print "1/3*3=", 1/3*3, "\n"; というプログラムを実行させました。 自分としては、1/3の時点で0.333333333333的な数になるので、それを3倍すると、0.9999999999的な数字になると思いましたが、結果としては1になります。 これはどういう原理でしょうか。 よろしくお願いします。
- ベストアンサー
- Perl
- 計算機誤差
ある時刻データの単位が日で表されている場合に、この値を計算機誤差がなく時分秒に変換するにはどうしたらよいでしょうか？ 例えば、9時47分30秒は日で表すと a = 0.4079861111111111111111 ですが、この値を以下のように時分秒に変換した場合 9時47分29秒となってしまいます。 hour = (int)(24*a) min = (int)(((24*a)-hour)*60) このような誤差がないように計算するにはどうしたらよいでしょうか？教えてください。
- ベストアンサー
- その他（プログラミング・開発）
- 有効桁数 実験 計算値 誤差 計算など
実験の結果のことについて 測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか？ 誤差の計算について 計算値の結果が有効桁数により、1.21×10^3Ωとなり、実測値1204Ωと誤差を計算する場合、これは誤差を計算できますか？
- 締切済み
- その他（学問・教育）
- 計算機で消費税の計算をした時の誤差について
計算機で消費税の計算をした時の誤差について教えて下さい。 例）１０００円の税込みの計算をするときに １０００+５％とすると１０５０と 正しく税込みの値が出てきます。 逆に １０５０円から税抜きの計算をするときに １０００ー５％とすると ９９７．５という 値がでてきました。 なぜ １０００円という 元の値が出てこなくなってしまうのでしょうか？ ちなみに ×１．０５ / ÷１．０５での計算方法は解っています。 宜しくお願いします。
- 締切済み
- 数学・算数
- 試行回数を増やせば誤差は減りますか?
お世話になっています。 現在振り子を用いて重力加速度を求める実験をしているのですが、 実験結果の考察でどのようにしたら誤差を少なく出来るかを考えるのに苦労しています。 私は統計を勉強したことがないのですが、ネットで調べて ・実験結果の標準偏差を誤差とする ・T=2π√(l/g)より、仮にT又はlの誤差を0とおき、各成分のgの誤差への寄与率を求める とするのがいいようだということはわかりました(用語を間違っているかもしれませんが)。 さて、ここでlの誤差はlを長くすれば相対的に誤差が小さくなるのではないか(人間が物差しで長さを計る場合)と予想できました。 しかしTの誤差(ストップウォッチで計測)を減らす方法がわかりません。 試行回数を増やせばその平均が真の値に近づくことは感覚的にわかるのですが、理論的にはそうなるのでしょうか? そしてTの誤差を減らしたい場合試行回数を増やせばいい、と言えるのでしょうか? よろしくお願いします。
- ベストアンサー
- 科学
- 誤差の求め方について
ある実験で、20秒間に原子同士が衝突した回数を求め、その誤差も考慮せよというものがあったのですが、その誤差を √（求めた値）/（測定時間） つまり、求めた値の1/2乗を測定時間で割ったもの とする答えがありました。 この求め方は有効なのでしょうか？ また、もし有効でないのなら、1つの測定結果についての誤差を（簡単にでもよいので）判断する方法はあるのでしょうか？ 至らぬ文章で申し訳ありませんが、よろしくお願いします。
- ベストアンサー
- 数学・算数
- 有効数字と誤差率
初歩的な質問で恐縮ですが、調べても良く分かりませんでした。 次のような場合、有効数字はどのようになるのでしょうか。 例）真の値が1.50、測定値1.55（有効数字3桁）のとき、 誤差ε=1.55-1.50 =0.05 質問１ 引き算のときは、このように桁落ちが発生するので気をつけよ、とまでは書いてあるのですが、どう気をつけるのでしょうか？ 有効数字は1桁になってしまったということなのか、5.00×10^2と言う風に3桁に直しておきなさいと言うことなのでしょうか？ 質問２ 誤差率を求める場合、 誤差率=（0.05/1.50）×100% =3.333・・・% 質問１の結果によりますが、この場合、何桁で書くのだ正しいですか？ 有効数字１桁でしたら、3% 有効数字３桁でしたら、3.33% の、どちらかだと思うのですが。 宜しくお願いします。
- ベストアンサー
- 物理学