浮動小数点数の誤差

質問

恐ろしく基本的なこと聞きます。

Public Class himajin100000

Shared Sub Main

Dim foo As Double = 0.5 '2進数で表現できる
Dim bar As Double = 0.1 '割り切れないから誤差が出る
System.Diagnostics.Trace.WriteLine((foo - bar).ToString) '0.4
'・・・あれ？浮動小数点数の誤差どこ行った？

End Sub

End Class

回答No.1

sakusaker7 · ベストアンサー

ToStringしたときに丸められたってことはないですかね?
VBでできるかわかりませんけど、減算の結果のビットパターンを
見れば何かわかるかもしれません。