• ベストアンサー

有効数字の取扱い

平均値の有効数字の取扱いについての質問です。 実験で平均値を取ることになりました。 以下の数値を計算すると平均値の有効数字はどうなりますか? 92.0mm 91.5mm 91.0mm 97.0mm 93.0mm 94.0mm 92.0mm 93.0mm 92.0mm 92.5mm スケールは物差しを使用しました。 ちなみに僕の答えは92.8mmなりました。 しかし先生は92.80と主張しました。 なぜ小数点以下第2位を有効数字に含めるのか分かりません。 教えてください。お願いします。

質問者が選んだベストアンサー

  • ベストアンサー
回答No.1

データ数が多くなると、平均値の有効数字を増やすことができます。 下記のサイトにこのことについて書かれているので参考にしてください。

参考URL:
http://ks001.kj.utsunomiya-u.ac.jp/~buturi/UUinOnly/ksb_html/yukari2/yukari212.html
okwavekazu
質問者

お礼

なるほど・・・ ありがとうございました。

関連するQ&A

  • ノギスとマイクロメーターをつかった実験と平均値を取る意味を教えて下しい

    先日、学校でノギスとマイクロメーターをつかって硬貨の体積を求める実験をしました。 その硬貨の外径をノギスで測った全クラスの結果が皆20.000mmといった数で有効数字5桁になった。 でもノギスが測れるのは0.05mmまでで、本当は20.00mmみたいな結果になるのではないでしょうか。皆はその小数点以下第3位を目分量だと思っているのではないかと思うんですが、実験プリントやほかのさまざまの資料を見たんですが、ノギスを使ってだした結果は小数点以下第2位で、目分量がないのです。外国の質問サイトで聞いてみたんですが、ノギスは目分量がつかないみたいです。それって本当ですか? もし本当に目分量がないとすると、誤差はどうなるんですか?小数点以下第2位を信じていいんですか? 20.00mm ± 0.025mm みたいな表示を見たんですが、これでイイでしょうか。こうなるとなんか小数点以下第2位が信用できない桁にみえますが。有効数字に関する話題が全然分かりません。有効数字4桁と言ってしまうと20.00の最後の0が目分量になるんですよね、でもノギスは0.05mmまで測れるんですから、その0って正確なはずなんですよね? また全クラスの平均を取るって言う行動は誤差を下げることができますと思うんですが、実際はなぜですか。(精度がなぜ上がるの証明みたいな感回答をしてくれれば。)(10っこのデータを取ったら誤差を10で割って ±0.0025mmになるんですか)分かりません。 あと誤差が違う二つの数値を計算するってどうやるんですか。2.5 ±0.05mm x 2.55 ±0.005mm のような そして 2.4 ±0.05mm + 2.5±0.05mm という計算は 2.9 ±0.1mm になるんですか、そうしたらこの二つの平均はどうなるんですか? 平均を取るって言う事の意味なんですが。googleしてみると有効数字を一桁上げる事ができるという結果になったんですが、それはいったいどういう計算、プロセスで桁数を上げる事ができるのでか?それが問題です。ある説では平均値の有効数字は計算に関係なくデータの標準偏差によるみたいです。どうでしょうか? ご回答お願いします!

  • 有効数字について

    0.0001gまで測定できるはかりで秤量して得た数値のみを使って計算を行なった場合は小数点以下四桁までが有効ということでいいのでしょうか。 上記のはかりを用いて秤量した場合で、たとえば  2.3345gと10.2325g という値が得られたとして、これら二つの値の有効数字は違うのでしょうか。何回も有効数字について書かれたものは見ているのですが、いまいちよくわからないので教えてください。

  • 【高校化学】有効数字の指定が無い問題

    【高校化学】有効数字の指定が無い問題 化学の問題などで、答えの有効数字の指定が無い場合がよくあります。 私は小数点以上は上から四桁目を四捨五入、小数点以下は小数以下3桁目を四捨五入で計算しています。 567865465.2255222… →5.68×10^8 21.555555555… → 21.56 1.64233335… → 1.64 しかしこの前、1.111111111…molというのを1.11molとして計算したら問題集の答えと0.001ずれてしまいました。解説では0.111として計算したみたいです。 こういう計算であっているときもあれば、微妙にずれているときも多々あります。 ほんのわずかなズレですが、なんだか気になってしまいます。 さらに計算が続けばもっとズレてしまいそうですし… 特に21.5555…や21.44444など、5や4を四捨五入するのにちょっとためらいます… 私のやりかたはあっているでしょうか? 入試ではさすがにバツになりませんよね? ご回答よろしくお願いします。

  • 化学の問題の有効数字について

    私は大学1年で理工学部に所属しております。問題を解いていて気になった点があったので質問させていただきます。 計算問題などでは、大学にもなってくると有効数字の調整や、小数点以下を第何位までにあわせるか、など細かな点も要求されるのですが 1) log(1.22)=? 2) 25.4mm = ? m 3)2.601km^2 = ? m^2 この3つの問題の答えの記入の際、2)の場合は 25.4mm = 2.54*10^-2m とするべきなのか      = 0.0254m とするべきなのかがわかりません。 問題にはこれについての指定はありませんでした。 なのでここの微妙なところを教えてください、お願いします。

  • パーセントの計算での有効数字について

    計算を2、3回経て、パーセントの数値を算出したいと思います。 ただ、小数点第2位(%)という細かい数値で出さなければなりません。 そこでお聞きしたいことが2つあります。 (1)その場合、パーセントにする前(×100する前)の数値は有効数字4桁 その4桁の数値を出すための計算は全て有効数字5桁で行う、という事でいいのでしょうか? (2)手計算で有効数字5桁の計算を行うとなると、かなり大変です。 これを解決する方法はないでしょうか? (通常の電卓は使用できますが、Excel等は使用しない前提で) よろしくお願いいたします。

  • 有効数字について

    最小二乗法の計算をするに当たって有効数字を考えています。もしx=5.00という値が得られたとすると、x^2を考えるとき、やはり5.00×5.00=25.0(3桁)とすべきなのでしょうか?というのも、他のx^2の値が小数点以下第2位まで得られているので、それらを足し算すると小数点以下が第1位までとなってしまうのです。 知識不足なもので恐縮ですがよろしくお願いします。

  • 有効数字の取り扱い

    ある実験で最終結果を有効数字3桁にしたい場合を考えます。 物理量A(複数回測定)、B(1回のみ測定)、C(Aに同じ)があり、それらの有効数字は A:5桁 B:3桁 C:4桁 で、 平均値の有効数字が A:6桁 C:7桁 になるとします。 A、B、Cを計算してDという物理量を求める場合、 (1)有効桁数を考えずに途中計算を行い、最終結果のみを3桁にする。 (2)A、Cの平均値を有効数字を合わせながら((a)Aは測定値の5桁、Cは6桁にor(b)A、Cともに3桁に)行う。 のどちらが正しいのでしょうか。

  • <測定値の有効数字について>

    <測定値の有効数字について> 測定における有効数字の数え方について質問があります。 一般に筆箱によく入ってる、簡単なプラスチックものさしで 構わないのですが、例えばこれの最小目盛が1mmだったとします。 このものさしを使って長方形の縦の短辺の長さを測ったとして、 目分量で10分の1の位まで読んで「1.23cm」と測定値を得たとします。 この測定値の有効数字は3桁だと思います。 同じ長方形について長辺を測定して「12.34cm」と測定値を得たとき、 有効数字は4桁でしょうか?? おなじものさしを使っているし、意味を持つ数字は共に0.01cmの位の数字 までであるのに、有効数字の桁数は違うのでしょうか・・・? また、和差なら問題ないのですが、 例えばこの長方形の面積を計算するために「1.23×12.34」と計算すると、 答えは「15.1782」なのですが、積と商に関しては小さいほうの桁数にあわせて 有効数字を決めることになっているかと思います。 3桁にあわせて「15.2」として良いのでしょうか? もとの測定値における意味のある数字の位は0.01までだったのに、違和感があります・・・。 まだまだ有効数字を使い慣れていなくてよく分からないのですが、 詳しい方よろしくお願いいたします。

  • 有効数字の取り扱いについて

    少し細かいことですいませんが、有効数字の取り扱いについて質問させてください。 問題で、[有効数字 3 桁で答えよ]とあった場合、文献値は何桁でとってくればいいのでしょうか? 友達の話では、この場合 4 桁でとってきて、最終的に四捨五入し 3 桁で答えればいいらしいのですが、その時例えば、ボルツマン定数 1.38066*10^-23 J/K では、1.380*10^-23 でしょうか、それとも少数第 4 桁目を四捨五入し 1.381*10^-23 でしょうか? また、真空中の光速度は 2.99792458*10^8 m/s と定義されているようですが、この時はどうなのでしょうか(定義されているので、そのまま計算に使うのかどうか)? さらに質問なのですが、計算途中で得られた数値を次の式に使いたい場合は、有効数字何桁でとって次の計算に使うのでしょうか(この場合においても四捨五入が必要なのかどうか)? ご存知の方がいらっしゃいましたらご回答よろしくお願いします。

  • 日本薬局方の数字の丸め方についての説明

    http://www.nihs.go.jp/mhlw/jouhou/jp/jp15_genan_sakusei_youryou.pdf 上記URLの2.2.3の項目について説明するのですが 定量を例に説明しようと思っているのですが 規格値が98.5%~101.5%の場合 小数点以下一桁目までが有効数字なので 計算には小数点以下二桁目までを計算に使うといった 説明でいいのでしょうか? 実例として,次の計算結果を得られた場合 (1)100.453456 (2)100.789101 (3)100.698765 (1)100.45,(2)100.78,(3)100.69として ((1)+(2)+(3))/3=100.64 答え=100.6%という考え方(やり方)であってますか?