- 締切済み
計算機における誤差
noname#21649の回答
私の場合には. 目的精度計算の倍の精度で計算して.比較する です。 ただ.「倍の精度」の計算ルーチンを作るのが地獄ですが.C言語ですと.どなたたが多倍精度の演算ルーチンを公開していますので.比較的簡単でしょう。 ただ.物によっては.地獄が待っています。岩波の数学時点に乗っているような関数の近似計算式の有効桁がせいぜい7-10桁なので.結局収束の割るい定義式から計算する必要があったり.収束が悪いので.20桁の結果を出すために100桁の珪酸が必要だったり.泣けてきますよ。
関連するQ&A
- Perl:計算誤差について
お世話になります。 Perlを使って、計算機には誤差があるという話をしようと思って、 print "1/3*3=", 1/3*3, "\n"; というプログラムを実行させました。 自分としては、1/3の時点で0.333333333333的な数になるので、それを3倍すると、0.9999999999的な数字になると思いましたが、結果としては1になります。 これはどういう原理でしょうか。 よろしくお願いします。
- ベストアンサー
- Perl
- 計算機誤差
ある時刻データの単位が日で表されている場合に、この値を計算機誤差がなく時分秒に変換するにはどうしたらよいでしょうか? 例えば、9時47分30秒は日で表すと a = 0.4079861111111111111111 ですが、この値を以下のように時分秒に変換した場合 9時47分29秒となってしまいます。 hour = (int)(24*a) min = (int)(((24*a)-hour)*60) このような誤差がないように計算するにはどうしたらよいでしょうか?教えてください。
- ベストアンサー
- その他(プログラミング・開発)
- 有効桁数 実験 計算値 誤差 計算など
実験の結果のことについて 測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか? 誤差の計算について 計算値の結果が有効桁数により、1.21×10^3Ωとなり、実測値1204Ωと誤差を計算する場合、これは誤差を計算できますか?
- 締切済み
- その他(学問・教育)
- 計算機で消費税の計算をした時の誤差について
計算機で消費税の計算をした時の誤差について教えて下さい。 例)1000円の税込みの計算をするときに 1000+5%とすると1050と 正しく税込みの値が出てきます。 逆に 1050円から税抜きの計算をするときに 1000ー5%とすると 997.5という 値がでてきました。 なぜ 1000円という 元の値が出てこなくなってしまうのでしょうか? ちなみに ×1.05 / ÷1.05での計算方法は解っています。 宜しくお願いします。
- 締切済み
- 数学・算数
- 試行回数を増やせば誤差は減りますか?
お世話になっています。 現在振り子を用いて重力加速度を求める実験をしているのですが、 実験結果の考察でどのようにしたら誤差を少なく出来るかを考えるのに苦労しています。 私は統計を勉強したことがないのですが、ネットで調べて ・実験結果の標準偏差を誤差とする ・T=2π√(l/g)より、仮にT又はlの誤差を0とおき、各成分のgの誤差への寄与率を求める とするのがいいようだということはわかりました(用語を間違っているかもしれませんが)。 さて、ここでlの誤差はlを長くすれば相対的に誤差が小さくなるのではないか(人間が物差しで長さを計る場合)と予想できました。 しかしTの誤差(ストップウォッチで計測)を減らす方法がわかりません。 試行回数を増やせばその平均が真の値に近づくことは感覚的にわかるのですが、理論的にはそうなるのでしょうか? そしてTの誤差を減らしたい場合試行回数を増やせばいい、と言えるのでしょうか? よろしくお願いします。
- ベストアンサー
- 科学
- 誤差の求め方について
ある実験で、20秒間に原子同士が衝突した回数を求め、その誤差も考慮せよというものがあったのですが、その誤差を √(求めた値)/(測定時間) つまり、求めた値の1/2乗を測定時間で割ったもの とする答えがありました。 この求め方は有効なのでしょうか? また、もし有効でないのなら、1つの測定結果についての誤差を(簡単にでもよいので)判断する方法はあるのでしょうか? 至らぬ文章で申し訳ありませんが、よろしくお願いします。
- ベストアンサー
- 数学・算数
- 有効数字と誤差率
初歩的な質問で恐縮ですが、調べても良く分かりませんでした。 次のような場合、有効数字はどのようになるのでしょうか。 例)真の値が1.50、測定値1.55(有効数字3桁)のとき、 誤差ε=1.55-1.50 =0.05 質問1 引き算のときは、このように桁落ちが発生するので気をつけよ、とまでは書いてあるのですが、どう気をつけるのでしょうか? 有効数字は1桁になってしまったということなのか、5.00×10^2と言う風に3桁に直しておきなさいと言うことなのでしょうか? 質問2 誤差率を求める場合、 誤差率=(0.05/1.50)×100% =3.333・・・% 質問1の結果によりますが、この場合、何桁で書くのだ正しいですか? 有効数字1桁でしたら、3% 有効数字3桁でしたら、3.33% の、どちらかだと思うのですが。 宜しくお願いします。
- ベストアンサー
- 物理学