締切済み

Fortranについて質問です！

2006/01/23 12:02

Fortranで扱う倍精度実数で「1.0D60」は、1.0×10^60という解釈でいいのですか？本当始めたばっかりで理解が浅いので…どなたかよろしくお願いします＞＜

vovovo_ram
お礼率0% (0/2)

その他（プログラミング・開発）
回答数2
ありがとう数1

みんなの回答 （2）
専門家の回答

みんなの回答

ultraCS
ベストアンサー率44% (3956/8947)

2006/01/23 23:46 回答No.2

まあ、認識としてはいいでしょうが、コンピュータの内部では、16進数又は2進数で表現されたその近似値になっています(アーキテクチャで違う)。誤差を議論する場合は非常に重要になります。浮動小数点の演算では、A=(A/B*B)が成立しないことがあります(大概、右辺が小さくなる)。なので、お金の計算はしないでください。