OKWAVEのAI「あい」が美容・健康の悩みに最適な回答をご提案!
-PR-
締切り
済み

有限ビットでの問題

  • 困ってます
  • 質問No.188943
  • 閲覧数31
  • ありがとう数0
  • 気になる数0
  • 回答数1
  • コメント数0

お礼率 16% (2/12)

 コンピューター内部での数値が、有限桁(有限ビット)で表現されているために生じている問題について教えてください。
通報する
  • 回答数1
  • 気になる
    質問をブックマークします。
    マイページでまとめて確認できます。

回答 (全1件)

  • 回答No.1
レベル14

ベストアンサー率 49% (1127/2292)

コンピュータは実数計算を有限の桁数でしか計算することができないので、正しいアルゴリズムを組んでも計算をするうちに桁末尾から誤差がだんだん広がってきてしまいます。 いわゆる表現精度の問題ですね。 例) 10÷3=3.33333... 3.33333×3=9.99999
コンピュータは実数計算を有限の桁数でしか計算することができないので、正しいアルゴリズムを組んでも計算をするうちに桁末尾から誤差がだんだん広がってきてしまいます。
いわゆる表現精度の問題ですね。

例)
10÷3=3.33333...
3.33333×3=9.99999

このQ&Aで解決しましたか?
関連するQ&A
-PR-
-PR-
このQ&Aにこう思った!同じようなことあった!感想や体験を書こう
このQ&Aにはまだコメントがありません。
あなたの思ったこと、知っていることをここにコメントしてみましょう。

その他の関連するQ&A、テーマをキーワードで探す

キーワードでQ&A、テーマを検索する
-PR-
-PR-
-PR-

特集


いま みんなが気になるQ&A

関連するQ&A

-PR-

ピックアップ

-PR-
ページ先頭へ