締切済み

計算精度（限りなくゼロに近く）

2001/06/23 21:43

現在、fortranで大きな数値計算をしています。そこで、計算回数が多く、その計算過程において大きい値と小さい値とを何回も計算していると誤差が次第に大きくなっていきます。Ａ=ＢとなるようにＡ（又はＢ）を求めるときの判別としてabs(Ａ-Ｂ)<10**（ｘ）としています。このｘに－300ぐらいの値をいれ判別したいのですがそれは可能ですか？もちろん計算には倍精度を使っていますがabs(A-B)が10**(－17)付近になると値が一定になってしまいます。これがfortranの限界なのでしょうか？

gotkat
お礼率62% (23/37)

その他（プログラミング・開発）
回答数3
ありがとう数3

みんなの回答 （3）
専門家の回答

みんなの回答

noname#21649

2001/06/24 07:30 回答No.3

fotranで．尋常な方法ではないのですが．物理制限のみという演算をしたことがあります。変数を整数配列にして．１桁を１配列に割り当てて．演算ルーチンを作成します。三角関数や対数程度でしたらば．探せば．加減算で求めるプログラムも公開されていますから．開発は特に困難ではないでしょう。私の場合には．マンマシンインターフェースとして．対話処理にしたことが災いし．プログラム領域が不足し．オーバーレイ構造にするためには．システム情報が必要となり．一般ユーザーであるために開発を断念しました。システム情報を操作するためには．特権ユーザーである必要があったためです。