- ベストアンサー
確率誤差の有効数字
確率誤差が例えば0.015と出た場合 これは少数第3位を切り捨てるのでしょうか それとも四捨五入するのでしょうか
- frank
- お礼率42% (249/587)
- その他(学問・教育)
- 回答数1
- ありがとう数1
- みんなの回答 (1)
- 専門家の回答
質問者が選んだベストアンサー
詳細に関しては、詳しい人にお任せいたしますが、 一般的には、四捨五入されます。 但し、安全率(例えば、箱の大きさが0.015であったとき、その中に棒を入れるときの大きさなど、0.02だと駄目になってしまう場合)などが必要とされる場合には、切り捨てることもあります。 結局、その数値の意味がどの程度あるのかが重要になります。
関連するQ&A
- 有効数字(有効桁)の考え方
小数を含んだ計算ですが,以下の押さえで正しいでしょうか? いくつかサイトを見て,こうなのかな?と思ってまとめてみたのですが... ((1)の「4」,(2)の「5」に関しては誤差を含まない数とする) (1)6.523×4=26.092 (2)6.524×5=32.620 (小数第3位の0は必要) (3)65.23+6.524=71.754 →71.75(四捨五入(各々4桁故)) (4)65.23÷6.524=9.99846719… →9.998(四捨五入) (5)65.23÷6.52=10.00460122… →10.0(四捨五入(6.52が3桁故答えは3桁まで)) (6)6.523×6.524=42.556052 →42.46(四捨五入(各々4桁故)) (7)6.523×6.52=42.52996 →42.5(四捨五入(6.52が3桁故)) 正しいでしょうか?
- 締切済み
- 数学・算数
- dounle型で計算時の誤差
今、VC++(MFC)で、15桁の数値まで表示可能な電卓アプリを作成しています。 そこで今つまずいているのが、double型で計算したとき(演算結果が小数の場合)の誤差の問題です。 とりあえず、いろいろなHPなどの情報を見たりして、誤差問題解決を下記のようにしました。 「数値の頭(左側)から16桁目を四捨五入する」 小数の場合はほとんど誤差が生じるため、計算後、計算結果が小数ならば、必ず 上記の誤差処理を行っています。 しかしこれでは、以下の場合に不具合が出てしまいます。 ・ 0.99 999 999 999 999 ÷ 10 = 本来の答えは「0.09 999 999 999 999 9」 ⇒ しかし15桁までの表示なので、本来は「0.09 999 999 999 999」と15桁まで出力 させなくてはいけないのに、16桁目の「9」を四捨五入したせいで「0.1」という表示に なってしまう。 16桁目を四捨五入しないと誤差をとることはできないし、でも上記の例だと正しい結果 が出力されません。 どうしたらいいのか頭を悩ませています。 何か良い解決法等あれば、ご教授お願いします!!
- ベストアンサー
- C・C++・C#
- 有効数字以下を四捨五入(Java)
初心者です。よろしくお願いします。 Javaで有効数字の桁数を与えてそれ以下を四捨五入することはできますか。 できるなら方法を教えてください。 単に少数第○位を四捨五入するとあらかじめ決めておけばsetScaleメソッドでできると思うのですが、 例えば有効数字2桁と決めておいて、 34.1→34 3.41→3.4 0.341→0.34 といった具合に四捨五入する方法をお伺いしたいです。 よろしくお願いします。
- ベストアンサー
- Java
- 誤差の表示の仕方について。
こんにちは。 卒論を控えた大学生です。 今、大量のデータがエクセルで 温度 値1 誤差 値2 誤差 300 0.320 0.0011 0.158 0.0013 200 0.382 0.0033 0.155 0.0039 100 0.427 0.0026 0.163 0.0033 と入っているのですが、最終的にはtex用に、 誤差を四捨五入、()内にいれて 300 & 0.320(1) & 0.158(1) 200 & 0.382(3) & 0.155(4) 100 & 0.427(3) & 0.163(3) と加工したいのですが、自動でやるにはどうすればよいか 詳しい方のアドバイスをお願いいたします。
- ベストアンサー
- Excel(エクセル)
- 有効数字の取り扱いについて
少し細かいことですいませんが、有効数字の取り扱いについて質問させてください。 問題で、[有効数字 3 桁で答えよ]とあった場合、文献値は何桁でとってくればいいのでしょうか? 友達の話では、この場合 4 桁でとってきて、最終的に四捨五入し 3 桁で答えればいいらしいのですが、その時例えば、ボルツマン定数 1.38066*10^-23 J/K では、1.380*10^-23 でしょうか、それとも少数第 4 桁目を四捨五入し 1.381*10^-23 でしょうか? また、真空中の光速度は 2.99792458*10^8 m/s と定義されているようですが、この時はどうなのでしょうか(定義されているので、そのまま計算に使うのかどうか)? さらに質問なのですが、計算途中で得られた数値を次の式に使いたい場合は、有効数字何桁でとって次の計算に使うのでしょうか(この場合においても四捨五入が必要なのかどうか)? ご存知の方がいらっしゃいましたらご回答よろしくお願いします。
- ベストアンサー
- その他(学問・教育)
- 精度と確率誤差
10ml容ホールピペットの器差を求める実験を行なったんですが、この実験の精度を測ることができません。 各計算結果は以下のように出ました。 ホールピペットの20℃における内容積を調べたところ、9.974、9.973、9.980という結果が出た。 この平均値は9.976、標準偏差は14.11、確率誤差は9.517であった。 この中で上の確率誤差に着目して精度を測りたいんですが、イマイチ確率誤差の定義が分かりません。 確率誤差と精度はどのように関連していますか? この実験における確率誤差からは精度に関してどのようなことが言えますか? 有識者の方ご指南お願いします。
- ベストアンサー
- 化学
- 少数の四捨五入ってどうやってするんですか?
少数の四捨五入ってどうやってするんですか? 例えば7分の1を少数に直して0.14285714になります。これを四捨五入するとなにになりますか?
- ベストアンサー
- 数学・算数
お礼
回答ありがとうございました そうなんですか、一般的には四捨五入なんですね