• ベストアンサー

パーセントの計算での有効数字について

計算を2、3回経て、パーセントの数値を算出したいと思います。 ただ、小数点第2位(%)という細かい数値で出さなければなりません。 そこでお聞きしたいことが2つあります。 (1)その場合、パーセントにする前(×100する前)の数値は有効数字4桁 その4桁の数値を出すための計算は全て有効数字5桁で行う、という事でいいのでしょうか? (2)手計算で有効数字5桁の計算を行うとなると、かなり大変です。 これを解決する方法はないでしょうか? (通常の電卓は使用できますが、Excel等は使用しない前提で) よろしくお願いいたします。

質問者が選んだベストアンサー

  • ベストアンサー
  • Hypnos7
  • ベストアンサー率40% (30/74)
回答No.1

ex. 98.12% 題意はこれでいいですか? (1) 答えは、0.9812 有効数字4桁だと、計算は有効数字5桁です。 (2)関数電卓使うとか、プログラム入れれるのあります。 用途は、何ですか? 元の数字によって有効数字も変わってきます。 計算式もあれば回答しやすいです。 これだけの精度必要だと、定量分析などですか?

miso_lover
質問者

お礼

ご回答ありがとうございます。 会社にて作成している書類関係の計算です。 そこまでの精度はないのですが、お客様の指示にて記入が必要の為です。 関数電卓でプログラムですか…。 新人に手計算でやってもらおうと思って考えていたのですが、 やはりエクセルの方が有効数字も必要なく簡単そうですね。 ありがとうございました。

その他の回答 (1)

  • sanori
  • ベストアンサー率48% (5664/11798)
回答No.2

こんにちは。 (1) おっしゃるとおり、有効数字より1桁多い状態で計算する人が多いですが、 1桁多くしないで計算してもよいという人もいます。 たとえば、私は高校の物理の授業とテストで、有効数字3桁の答えを求める際に、計算を有効数字3桁でやってよい、と習いました。 ただし、ちょっと厄介なことがあります。 有効数字4桁で、99.54% というパーセンテージがあるとします。 すると、残りは 0.46% しかなく、有効数字が2桁しかありません。 ですから、「99.54%」というパーセンテージは、有効数字が2桁しかないとも考えることができるのです。 (こういった場合、対数で考えるべきなのかもしれません。) (2) 上記の通り、4桁で計算してもよいという考え方はありますが、 電卓を使っていいなら、少し我慢して5桁だと思います。

miso_lover
質問者

お礼

ご回答ありがとうございます。 おぉ、3桁でもよいのですか?初めて聞きました! やはり通常は5桁ですよね…。 電卓使用してもミス発生しやすそうですね。 やはり、エクセル使用することにします。 ありがとうございました。

関連するQ&A

  • エクセルの計算について質問です

    エクセルの計算について質問です 数値の計算で、電卓で算出した値とエクセルで計算した値とが異なり困ってます。 【計算内容】 A(整数) × B(小数部2桁) = C(整数) ※Cは小数点以下切捨てとしたい ※エクセル計算ではROUNDDOWNを使用 【実際の計算結果】 (1)10,000,010,000.00 × 9999.99 = エクセル:99,999,999,999,999、電卓:99,999,999,999,999 (2)10,000,010,000.01 × 9999.99 = エクセル:100,000,000,000,000、電卓:99,999,999,999,999.9999 (1)は電卓とエクセルで結果は一致しますが、(2)は一致しません。 エクセルで小数点以下第4位が丸められてるようです。 【エクセルで算出したい値】 (2)ではDに999,999,999,999と出力したいです。 関数INTやROUNDDOWNを使ってみたのですが、うまくいきませんでした。 セルCの書式設定と、どの関数を使用すればよいのか教えていただけると大変助かります。

  • エクセルのSUM計算結果が桁はずれに違うのですが・・・。

    エクセルのSUM式で算出した結果と電卓で出した結果に、桁が違うほどの誤差が出ました。 単純に桁が増えただけとかの違いではなく、数値がまったく違います。 SUM式のもとになる数値は全部手入力のため、小数点とか計算式の問題ではないと思います。 何回やってもSUMの方が見当違いな結果にしかならないのですが・・・。 ちなみに、ドラッグして右下に出る合計値も、奇想天外な数字になってます・・・。 いったい何が原因なんでしょうか? 支払い業務の時期なので、困ってます;;

  • 化学での有効数字について(途中計算)

     以下についてアドバイスいただけると助かります。  有効数字について  和・差について・・・小数点以下の桁数が少ない方に合わせる  積・商について・・・桁数が少ない方に合わせる  については、分かったのですが、有効数字3桁での指定があるときに  19.1、24.5889、0.12553、3.2952の4つの数にたいして  ○和を筆算で求める場合    小数第1位に合わせるために、    19.1→19.10(小数第2位表示)    24.5889→24.58(小数第3位切り捨て)    0.12553→0.12(小数第3位切り捨て)    3.2952→3.29(小数第3位切り捨て)  として和を求め、小数第1位(小数第2位四捨五入)にする  ○積を筆算で求める場合    有効数字3桁に合わせるために、    19.1→19.10(有効数字4桁表示)    24.5889→24.58(5桁目切り捨て)    0.12553→0.1255(5桁目切り捨て)    3.2952→3.295(5桁目切り捨て)  として積を求め、有効数字を3桁(4桁目は四捨五入)にする  と思っています。  1.このやり方で大学受験では問題ないのでしょうか。    特に気になっているのは、計算をする前の丸め方(すべて切り捨てにしているところ)です。  2.計算ステップがいくつもあり、一度に計算ができない場合、そのステップ毎に得られる数の    丸め方は切り捨て・四捨五入のどちらがよいのでしょうか。  よろしくお願いします。    

  • 大学入試の化学の計算問題における有効数字について

    有効数字2桁での回答を求められています 分子 4.052*0.239^2*10^5 分母 1-0.239^2 電卓では0.245… → 0.25 実際の試験中には小数点以下5桁6桁の途中計算を繰り返すのは厳しいので、 自分は積と商においては有効数字+1桁の数を途中計算に用いています。 それに基づくと 分子は 0.239^2=0.057121 → 0.0571 4.052 → 4.05 0.0571*4.05=0.231255 → 0.231 分母は 0.239^2=0.057121 → 0.0571 1-0.0571=0.9429(これは差なので3桁とはしませんが、0.943としても結果は同じです) 最後に 分子/分母 0.231/0.9429=0.2449… → 0.24 筆算でも0.25に至るには全ての途中計算を4桁(有効数字+2)で処理しなければなりません。 有効数字3桁での回答を求められる場合には5桁で計算することとなりますが現実には難しそうです。 問題集の回答では0.25となっていましたが、このケースでは0.24でも許容されると考えるべきでしょうか。 ちなみに神戸薬科大の問題のようです。

  • エクセルで計算して、例えば小数点第2位まで求めると1.36になった数字

    エクセルで計算して、例えば小数点第2位まで求めると1.36になった数字を 小数点第1位で表示すると四捨五入で1.4となったとします。この数字に1000を 掛けると1360と表示されます。表示されている1.4に1000を掛けるということで 1400と表示するにはどのような関数を使用するのですか。 よろしくお願いします。

  • 大学受験_有効数字_計算方法

    (有効数字3桁) 面積 8.00*10^5 km^2 (有効数字2桁) 深度 20 m (有効数字3桁) 毎秒蒸発する水の量 2.00*10^8 kg/s (有効数字4桁) 塩分 35.00 パーミル (有効数字2桁) 日数 10 日 (有効数字3桁) 海水の密度 1.03*10^3 kg/m^3 大学受験の理科で、上記値が問題文に数値として 与えられており、問題の内容は割愛しますが、 全ての数値を使って10日後の塩分が何パーミルか 求める問題がありました。また小数点以下2桁で答えよ、 と問題文にありました。 S予備校の解答では35.371≒35.37で、自分と同じ。 Y予備校の解答では35.36パーミルで答えが若干違います。 そこで質問があります。 1. 大学側が設定した小数点以下2桁、つまり有効数字4桁(?)は 解答として妥当なのでしょうか? 2. 上記値に自分なりに考えて有効数字をあててみましたが、 正しいでしょうか?20mは0.02km、2*10mと考えると有効数字 1-3桁どれでもよいような気がします。 3. 有効数字4桁で答えるときは計算過程において、5桁で計算すべき でしょうか?それとも6桁?Y予備校では計算過程で1.6307を1.631と していました。 4. 大学の過去問をみると出版社ごとに解答が異なることが ”非常に”多いです。かっちりとしたやり方って決まっていないのでしょうか? 以上よろしくお願いします。

  • 三角関数の計算がおかしい

    詳しく書くと長くなりますので要約します。 図がなくて申し訳ないのですが、斜辺→1000、高さ→3,15、底辺→?として三角形を描きます。 三平方の定理を展開して、?²=1000²-3,15² 即ち 底辺?=999,9950387であるということは関数電卓で一瞬で計算することができます。 ただ、一旦角度を求めて逆算するとなんかおかしい数字になります。 まず最初に解ってる斜辺1000、高さ3,15はsinなのでsinで角度を求めると、 0,1804820039°になります。 0,18°としてtanで底辺?を求めると  ?=3,15÷tan0,18 ?=1002,672843 と、ミリ単位で誤差が出て、100分台の精度でワークを削る機械加工において致命的なミスが出ます。 ただ小数点以下10桁、0,1804820039°として底辺?を求めると  ?=3,15÷tan0,1804820039 ?=999,9950387 となり、三平方の定理を展開して計算した数値と同じ答えが出ます。 なぜこのようなことになるんでしょう?角度は小数点以下3桁まででいいや、と勝手に決めて計算したらダメですか? 関数電卓で小数点以下10桁まで入力しないといけない理由を教えて下さいませんか?1000万分の何°という数字が必要なんでしょうか? 皆さん回答ありがとうございます。多くの方から回答を頂き感謝しています。 しかし、すぐに理屈を理解できません。自分の無知を恥じながら時間がかかったとしても理解しようと思います。 現時点での認識ですが ?最終的に角度を求めるだけなら小数点以下3桁もあれば充分。 ?しかし、求めた角度を使って底辺の長さを求めるなど、更に計算を続けるなら、小数点以下3桁ではダメ。できる限り正確に角度を入力する必要がある。 という認識で宜しいでしょうか?

  • 有効数字について

    0.0001gまで測定できるはかりで秤量して得た数値のみを使って計算を行なった場合は小数点以下四桁までが有効ということでいいのでしょうか。 上記のはかりを用いて秤量した場合で、たとえば  2.3345gと10.2325g という値が得られたとして、これら二つの値の有効数字は違うのでしょうか。何回も有効数字について書かれたものは見ているのですが、いまいちよくわからないので教えてください。

  • 有効数字について

    ある問題で、静止摩擦係数を求めるものがあったのですが、 (有効数字は2桁です) μ=4*0.2*(0.8π)^2/9.8 をπ=3.14 として、途中計算は3桁までとって、計算してみたところ、 μ≒0.512 となりました。 しかし答えには μ≒0.515 とあり 答え,0.52 となっています。実際に電卓で計算してみると、確かに μ≒0.515 でした。 しかし、私のやり方のどこがおかしいのか、よく分からず、困っています。その点を教えていただけるとうれしいです。よろしくお願いします。

  • エクセル 数字の表示の仕方

    Excel、ソフトは2002で、マイクロソフトXPです。 計算された数値(小数点以下ずっと連なっている)を例えば小数点2桁にしたい。3桁以降は完全に省略したい。その方法を教えてください。 セル中に2桁を表示するのでなく、完全に2桁にする。 セルの書式設定(F)→ユーザー定義→0.00にしてもセルの数値はずっと連なっている。 よろしくご指導お願いします。