- ベストアンサー
πの値は、おおまかでも大事な計算に支障ない?
Ishiwaraの回答
昔、ヨーロッパのある大学の先生が、何十年もかけてπを15桁まで計算しました。今から見るとずいぶん短いようですが、黴菌が1匹ずつ手をとりあって地球をぐるりと取り巻いているとして、15桁もあれば、正確に匹数を求めることができます。ご自分でも確かめられますよ。
関連するQ&A
- dounle型で計算時の誤差
今、VC++(MFC)で、15桁の数値まで表示可能な電卓アプリを作成しています。 そこで今つまずいているのが、double型で計算したとき(演算結果が小数の場合)の誤差の問題です。 とりあえず、いろいろなHPなどの情報を見たりして、誤差問題解決を下記のようにしました。 「数値の頭(左側)から16桁目を四捨五入する」 小数の場合はほとんど誤差が生じるため、計算後、計算結果が小数ならば、必ず 上記の誤差処理を行っています。 しかしこれでは、以下の場合に不具合が出てしまいます。 ・ 0.99 999 999 999 999 ÷ 10 = 本来の答えは「0.09 999 999 999 999 9」 ⇒ しかし15桁までの表示なので、本来は「0.09 999 999 999 999」と15桁まで出力 させなくてはいけないのに、16桁目の「9」を四捨五入したせいで「0.1」という表示に なってしまう。 16桁目を四捨五入しないと誤差をとることはできないし、でも上記の例だと正しい結果 が出力されません。 どうしたらいいのか頭を悩ませています。 何か良い解決法等あれば、ご教授お願いします!!
- ベストアンサー
- C・C++・C#
- 概数計算で困っています。
概数計算の問題です。 63.2 - 3.57を計算しなさい。という問題で、数値は測定にとって得られたもので、下一桁に若干の誤差が含まれるそうです。 私は、そのまま計算をし、59.63という数字が出てきました。 ここで、誤差が生まれるので、答えを四捨五入をして、59.6にしました。 答案用紙が返ってきましたが、×でした。 自分では、問題点を見つけることができません。 教えてください。 解かりにくい文章で申し訳ありませんが、よろしくお願いします。
- 締切済み
- 数学・算数
- 有効数字(有効桁)の考え方
小数を含んだ計算ですが,以下の押さえで正しいでしょうか? いくつかサイトを見て,こうなのかな?と思ってまとめてみたのですが... ((1)の「4」,(2)の「5」に関しては誤差を含まない数とする) (1)6.523×4=26.092 (2)6.524×5=32.620 (小数第3位の0は必要) (3)65.23+6.524=71.754 →71.75(四捨五入(各々4桁故)) (4)65.23÷6.524=9.99846719… →9.998(四捨五入) (5)65.23÷6.52=10.00460122… →10.0(四捨五入(6.52が3桁故答えは3桁まで)) (6)6.523×6.524=42.556052 →42.46(四捨五入(各々4桁故)) (7)6.523×6.52=42.52996 →42.5(四捨五入(6.52が3桁故)) 正しいでしょうか?
- 締切済み
- 数学・算数
- 本を読んでいてわからないことがありました。
本を読んでいてわからないことがありました。 「2407と1428を四捨五入して百の位までの概数にすると、2400と1400になる。これらを足し算すると約3800である。 正確な計算をすると、2407+1428=3835となるから、誤差率は約0.9%となる。 もっと正確な計算結果に近づけるには四捨五入するケタを小さくすればよい。2407と1428を四捨五入して十の位までの概数にすると、2410と1430になる。これをたして約3840とすれば誤差率は約0.1%になり、より正確な値に近づく。」 と書いてあったのですが、どういう風な計算をしたら誤差率が0.9%や0.1%となるのでしょうか。 というかそもそも誤差率ってなんでしょうか? なんのために誤差率というものを求めるのでしょうか? 解説お願いします
- ベストアンサー
- 物理学
- 重量の丸め計算が全く分からず困っています。
うまく説明できなかったらすいません。 会社で、鉄筋の重量計算をするように言われました。 が、計算方法が全然分かりません。 ☆有効数字3桁にする。 ・4桁目が5ではない場合 →整数部分が2桁の時・・・四捨五入して3桁にする →整数部分が既に3桁の時・・・四捨五入する ・4桁目が5の場合 →5の前が偶数の時・・・切り捨て →5の前が奇数の時・・・切り上げ →5の後に数字が続く時・・・四捨五入して3桁にする →整数部分が既に3桁の時・・・上記の考え方と同じ(要は四捨五入) エクセル200を使用しています。 非常に困っています。 よろしくお願いします!!!
- ベストアンサー
- その他(プログラミング・開発)
- 有効数字 特に、約分・計算順序について
とある問題で、 9.8 × ( 24 × 60 × 60 )^2 ━━━━━━━━━━━━━ ←÷の分数表記です 4 × ( 3.14 )^2 × 6.4 × 10^5 という数の計算がありました。 どう計算するのがもっとも精度がいいのでしょうか? ※ 有効数字は 9.8 2桁 3.14 3桁 6.4 2桁 24 × 60 × 60 は正確な値としてよい。 4 は正確な値としてよい。 なお、値の精度は、誤差○.○~□.□があるから、ではなく、桁数のみで判定してください。(大学入試的な意味で) ちなみに、手元の答えでは≒2.9 × 10^2となっています。私は初め2.3 × 10^2になりました(←計算間違いではなく 泣 ) 計算途中の切り捨て、約分、計算の順序、四捨五入、等、できるだけ詳しく計算過程を記述してほしく思います。
- 締切済み
- 物理学
- 割り算を早く計算する方法
選択肢は必ずあって もっとも近いものを答える問題で A.7.6 B 7.8 C 8.0の選択肢があります 456751÷58314 答えがBとなります。 実際テスト中には正直に解いている時間は無いのである程度はしょって計算しないとダメ だと思うのですが、ルール決めをしたいのです(四捨五入をどのケタでするなど) 誤差ができるだけ少なくなり、かつ計算にあまり負担がかからないようにするには 選択肢をはじめに見る前提でどう判断したらよいかをご教授ください。 たとえば 460000÷59000とやってしまってよいかの判断です
- ベストアンサー
- 数学・算数
- 高校化学の計算について
とある男子高校生が質問させていただきます。 僕のある友人が、 化学の計算問題は、答が有効数字末尾の数字の1の誤差でも×となるため、 途中計算は有効数字がどんどん増えていってもそのまま計算し、 割り算があったら最後に回して、膨大な計算をした結果出た答えを (ここでやっと)四捨五入して解答としなければならない と言っていたのですが、本当でしょうか。 答えの微小な誤差は許容範囲であり、途中計算は逐次有効数字より1桁多いくらい の桁数で計算する、という参考の記述や先生の話と矛盾します。 問題で与えられた数値がすでに誤差を含んでいることを考えても、 友人の意見は間違いでは......? ご教授お願いいたします。
- ベストアンサー
- 化学
お礼
ご回答ありがとうございます! 15桁での成果とはすごいです・・、具体例をありがとうございます!