• 締切済み

有効数字に注意した計算

Perform the following calculations to the correct number of significant figures. (20.1477×2.34) + 399.42 (87.7 - 24.505)÷ 0.0047 (522÷939.4) + 5.27 [(2.06×10^6) ÷ 40.328] + 139.25 上記の計算を適度な有効数字に直して計算しろという問題ですが、いろいろなサイトをみて、計算方法を見てもやりかたがいまいちわかりません。やり方を含めて教えてくれると助かります。

みんなの回答

  • arrysthmia
  • ベストアンサー率38% (442/1154)
回答No.4

間違っています。決まった手順があるんですよ。 20.1477 × 2.34 = 47.145618 の結果を、 掛け算だから、少ない方の有効桁数、三桁に合わせて 47.1。 47.1 + 399.42 = 446.52 の結果を、 低いほうの精度、小数第一位に合わせて 446.5。 計算する前に丸めを行っては、誤差が拡大してしまいます。

回答No.3

NO!ですが次のように計算したのだと思います  20.15x2.34=47.151 ・・・・(ア)  47.2+399.4=446.6 ・・・・(イ)   普通有効数字は 3.45x10^3のように書きます   この問題の場合一番下の2.06x10^6以外は普通表記なので   2.34は下2ケタまでが有効数字だから20.15と下3ケタで  四捨五入し、2.34が3ケタだから47.2にし、下1ケタだか  らそこで統一したとすいそくできます。 有効数字はもともと誤差を重視した考え方で2.34は下2ケタの数字だから 2.34-0.005<2.34<2.34+0.005の数字で誤差は千分の一の世界、すると20.1477の10万分の一の誤差は必要なく20.15でいい。以下同様に誤差でどこまでを有効数字とするといいか考えてください。  ごめん

  • arrysthmia
  • ベストアンサー率38% (442/1154)
回答No.2

5.12 × 10^4

回答No.1

有効数字は掛け算・割り算は有効数字の最小にあわせ答えもそれに合わせます。足し算引き算は、小数のときは小数点以下をとり答えもその数に合わせます。有効数字をあわせるときは四捨五入します (1)2.34は有効数字3ケタだから20.1をとります   20.1X2.34=47.034だから47.0をとります。小  数点1位だから小数点以下1ケタにそろえます。   47.0+399.4=446.4 がこたえ (2)87.7-24.5=63.2 掛け算、割り算は有効数字のケタ数を合わせます。 0.0047は47が有効数字で2ケタだから   63÷0.0047=13404.255   有効数字2ケタだから13000 (3)5.83   (4)51200 になると思います

Straizo
質問者

お礼

回答ありがとうございます。 たいへんわかりやすい説明でした。 ただ(1)ですが答えは446.6になっていました。やり方が間違っているとは思えないのですがこれはなぜでしょうか? 2,3,4はあっていました。

関連するQ&A

  • significant figure(有効数字?)

    英文交じりの質問ですが宜しくお願い致します。 The following number has been given to 2 significant figures. State the limits of accuracy. 3000 ( ) ≤ x < ( ) 答え  2950 ≤ x < 3050 答えはわかるのですが、3000は2significant figures ではなく1 significant figuresですよね? という事は2950を2significant figures にせよという問題が出されたら答えは3000になるのでしょうか? 確かに2900にはなりませんよね、、でも3000は1 significant figuresです。この場合は例外なのですか? すっきりしないのでどなたか教えて頂けますか?

  • 対数 答えが間違ってはいませんか?

    次の不等式を有効数字3桁で答えよ、という問題です。 (Solve the following inequalities, giving your answers correct to 3 significant figures.) 答えをチェックして頂けますか? 問題)0.5^x < 0.001 本の答え) x > 9.97   私の答え) x <  9.97 本の答えは合っていますか? 

  • 虚数の計算

    学校の課題で虚数(Complex Number)の計算をしなければいけません。 虚数はi^2=-1, i^3=-i... ですよね? それをどういう風に表現したらいいのかまったくわからないのですが、その部分のヒントいただけないでしょうか? 一応、下のが問題です、、、、。 Write a class called complex to enable operations on complex numbers through the overloaded >> and << operators (to read in and output complex numbers). Complex numbers are of the form: realPart + imaginaryPart*i, where i =sqrt(-1) So overload <<, >>, +, -, *, ==, != to perform the appropriate operations. i.e. Complex1 + Complex2 should add the real parts of both numbers and the two complex parts of both numbers.

  • 連続する数字ので次の数字を求める問題

    こんにちは、よろしくお願いいたします。 表題のとおりなのですが、例えば 「2-4-6-8-○」の様に○に入る数字は何かという問題です。 2ずつ増えているので答えは10となる・・・というような問題を扱っているサイトを探しています。 上記のようなものから上級向けなるものがあるサイトを希望します。 そもそも、こういった「数学」なのか「パズル」なのか分からないのですがどのような言い方で呼ばれているのでしょうか?? ナンバープレイスや数独といったような呼び名も存在すると思うのですがそちらも分かればご存知の方は教えていただきたく思います。 よろしくお願いいたします。

  • to-不定詞と動名詞の違いは?

    中野幾雄著「技術英語攻略法」 (株)工業調査会 発行 のp28に次の英作文例があります。 和文: コンピュータの極めて価値のある使い道は,複雑な数学的計算の処理にある。 訳例: 1) The most valuable use of the computer is performing complicated mathematical calculations. 2) The most valuable use of the computer is to perform complicated mathematical calculations. 3) The true value of the computer is solving complex mathematical problem. 4) The true value of the computer is to solve complex mathematical problem. 質問: 上記1)と3)は動名詞で,2)と4)はto-infinitiveを使って書いています。 この本の中の説明では,どちらを使っても同じの説明です。 私の感覚ではto-inf.はどちらかと言えば未来的なことで,動名詞は過去的と思っていました  恥ずかしながら,長く英語に接していながら正直なところこの様な例文の場合にはどちらを使えば良いのか,どの様にニュアンスが違うのかがはっきり分かりません。 これを機に,確認致したくto-inf.と動名詞の使い分けに付いてご説明お願いします。 宜しくご教示お願い致します。

  • 大学受験_有効数字_計算方法

    (有効数字3桁) 面積 8.00*10^5 km^2 (有効数字2桁) 深度 20 m (有効数字3桁) 毎秒蒸発する水の量 2.00*10^8 kg/s (有効数字4桁) 塩分 35.00 パーミル (有効数字2桁) 日数 10 日 (有効数字3桁) 海水の密度 1.03*10^3 kg/m^3 大学受験の理科で、上記値が問題文に数値として 与えられており、問題の内容は割愛しますが、 全ての数値を使って10日後の塩分が何パーミルか 求める問題がありました。また小数点以下2桁で答えよ、 と問題文にありました。 S予備校の解答では35.371≒35.37で、自分と同じ。 Y予備校の解答では35.36パーミルで答えが若干違います。 そこで質問があります。 1. 大学側が設定した小数点以下2桁、つまり有効数字4桁(?)は 解答として妥当なのでしょうか? 2. 上記値に自分なりに考えて有効数字をあててみましたが、 正しいでしょうか?20mは0.02km、2*10mと考えると有効数字 1-3桁どれでもよいような気がします。 3. 有効数字4桁で答えるときは計算過程において、5桁で計算すべき でしょうか?それとも6桁?Y予備校では計算過程で1.6307を1.631と していました。 4. 大学の過去問をみると出版社ごとに解答が異なることが ”非常に”多いです。かっちりとしたやり方って決まっていないのでしょうか? 以上よろしくお願いします。

  • WEBから貼り付けた数字のエクセルでの計算方法

    webサイトの情報をエクセルのシートに貼り付けることはできるのですが、例えば OKWAVEの会員数・質問件数など毎日リアルタイムで出てきますが、その数字の後に 人とか件とかが付いてきてエクセルでの計算・集計ができません。計算出来る方法を教えてください。

  • 数字に強いって

    数字に明るい、数字に強いとは、具体的にどの位の能力を想定しますか。 経理職では、算数ができればいいとか四則計算さえできれば問題ないとか、それよりコスト意識を持てるか、等々と聞きますが、 経理歴6年もあるのに「数字に強い」と少しも自分で思えません。 勿論、上記の計算はできますが、利率や割合の計算、数字の把握というのでしょうか、できない事はありませんがこの辺りに苦手意識が強いです。 チョットした暗算能力や頭の回転の速さが関係してくるのでしょうか。 又、財務諸表を読める、決算書が読める、とはどの部分をどういう見方ができるという事なのでしょうか。 経理職を今後の職種として選択するには危険かという不安を抱いているものの、 経験した業務と性格面から経理職が妥当というか、何としてもスキルアップし経験を積んでいくしかないようにも思え、 判断材料にしたく、教えて頂きたく思います。 経理業務についてレベル分けされたサイトも見たのですが、難しそうな事ばかりな印象を受けました。 簿記3級でさえ3・4度目での合格でしたが、2級を独学或いは通信教育では無理でしょうか。 経理か営業か、管理職か、又業界によっても違うと思いますが、 非課税法人での日常経理 (試算表含まず) レベルの経験では、若くなければ無謀な職種選択でしょうか。 分かりにくいかもしれませんが、上記のどの部分でも結構です。 具体的なアドバイスを頂けると助かります。

  • どう計算したらいいのかわかりません

    □×10= □×30= □×50= □×100= □×150= 上記の□にあてはまる数を、下記の条件をクリアして入れるにはどうしたら良いでしょうか? ・条件(1)10000という数を、5つの□に割り振る ・条件(2)5つの計算の答えが、平均的になるように、□の数を決める イメージとしてはこんな感じです 元の数は32 20×10=200 7×30=210 5×50=250 答えの平均はこれだと230なので、これじゃちょっと誤差がありすぎですが・・・ 上記は、単純に、10,30,50という数字は固定されているので、3倍、1.6倍されているので それに合わせて□の数を決めました。 ただ、これは32という数字で、3個の計算なので、うまく割り振れただけで、これを本来の問題で 適用できるとは思っておりません。。。 エクセル関数でも構いませんし、何か定理でも構いません・・・ どうしてもわからずに悩んでおります・・・

  • ラウンド関数で表示された数字で

    excel2003を使用しています。 ラウンド関数(rounddown)を設定しているセルを参照した計算式を作ったのですが,実際には切り捨てていない数字で計算されてしまいます。 例: A1=10    A2=rounddown(A1/4,1)→「2」と表示    A3=10    A4=A2*A3 このとき,A4の値が「20」となることを期待しているのですが,実際には「25」と表示されてしまいます。 類似の質問http://okwave.jp/qa/q2699131.htmlに,回答No.3《ROUND関数やINT関数などをを使って、四捨五入した数字(または切り捨てた数字)は、あくまで見た目どおりの数字なので、「2」と出ていればそれは間違いなく「2」です。》や回答No.5《前の段階での「関数」の結果は、セルの「値」を、作ってしまうので、基本的には、そのセルを参照する関数は、その「値」を計算に使いますので、心配する(議論する)ことではありません。》とありますが,そのようになっていないのです。 同じく回答No.2に《ツール→オプションを開いて 計算方法のタブで「表示桁数で計算する」にチェックを入れてみてください。》とありますが,これはNo.7で《使えるようで実務上では、使えないのです。その注意を喚起するために、メッセージダイアログが出てきます。》というご意見が出ているので,躊躇しています。 解決方法について,ご存じの方がいらっしゃいましたらご教示ください。