- ベストアンサー
有効数字の桁数と平均操作
encyの回答
- ency
- ベストアンサー率39% (93/238)
たとえば、「92.0mm」というデータがありますが、このデータの意味するところは「91.95mm以上 92.05mm未満」ということです。 つまり、「91.95mm以上 92.05mm未満」であることは確からしいということで代表値として「92.0mm」といっていると考えても良いでしょう。 ちなみに、この場合 3桁目に誤差を含んでいるわけですが、これを「有効数字3桁」で表現しているといいます。 他の 9つのデータも 91.5mm→91.45mm以上 91.55mm未満 91.0mm→90.95mm以上 91.05mm未満 97.0mm→96.95mm以上 97.05mm未満 93.0mm→92.95mm以上 93.05mm未満 94.0mm→93.95mm以上 94.05mm未満 92.0mm→91.95mm以上 92.05mm未満 93.0mm→92.95mm以上 93.05mm未満 92.0mm→91.95mm以上 92.05mm未満 92.5mm→92.45mm以上 92.55mm未満 となります。 さて、これらの数字を使ってどこまでの精度で計算できるかを確かめてみます。 一番精度の悪い場合を考えるため、誤差の範囲の端の数字同士で平均値を求めてみます。 すると、 92.745mm以上 92.850mm未満 となります。 # 計算間違えてないよね？ ご質問の意図は、もとのデータの平均値が「92.8mm か、92.80mm」かということですが、両者の精度はそれぞれ 92.8mm→92.75mm以上 92.85mm未満 92.80mm→92.795mm以上 92.805mm未満 となります。 また、データから得られる平均値の精度は「92.745mm以上 92.850mm未満」でした。 平均値を有効数字 4桁まで求めて 92.80mm (92.795mm以上 92.805mm未満) とするほどの精度はないと考えるべきでしょう。 この場合は、有効数字 3桁まで求めて 92.8mm (92.75mm以上 92.85mm未満) とするのが妥当なのではないかと思います。 …というような話を、学生時代に教えられた記憶があります。 「有効数字の桁数以上の精度は求めない」と覚えておけばよいでしょう。 元の質問に対する ANo1さんは > データ数が多くなると、平均値の有効数字を増やすことができます。 と書かれています。 一般に n=10 を「データ数が多い」とは呼べないと思いますし、参考URLで示しているようなもともとバラツキの少ない例で「n=10 で有効数字を1桁増やせた！」と言われても、回答として不十分だと思うのですが。。。 # データ数が多いといった場合、n≧50 はほしいところではないでしょうか。 まぁ、最後は私見ですのであまり気にしなくても良いです。 ご参考まで。
関連するQ&A
- 有効桁数について
ある数値を５回測定したとします A 5.039 B 5.075 C 5.092 D 5.064 E 5.058 有効桁数はすべて４桁ですよね？ 次にA～Eの平均を取ると (A+B+C+D+E)/5=5.0656 と関数電卓で結果がでますが、４桁に丸めて5.066とすれば有効桁数の扱い方としては問題ないですか？ そしてA～Eの平均の２乗をするときは、上記の平均を有効桁数４桁に丸めた5.066を２乗して (5.066)^2=25.664356 となり、そして5.066の有効桁数４桁に合わして25.66とすればいいのでしょうか？ それとも平均の値を４桁に丸める前の電卓で出た値のまま２乗した後、最終的に４桁に丸めるのがいいのでしょうか？この数値だとどちらでやっても４桁にした値は変わりませんが・・・ 有効桁数の扱い方で問題があったら教えてください、また平均の２乗を求めるときはどちらが正しいのでしょうか？ （平均の値の２乗は平均×平均なのだから平均の値を４桁にせず５桁として計算すると平均の２乗は有効桁数５桁と考えるので、やはり正しく平均の値を測定値の有効桁数４桁に丸めて出した平均の値を２乗する方が正しいですかね・・・） また、上記の平均の計算をしたときのよな、「5」などの数字の有効桁数は何桁ですか？１桁なんでしょうか？もし１桁なら割り算をしているので有効桁数はいちばん桁数の少ないものに合わせるので有効桁数１となると平均の値が「5」となりおかしいとおもうんですが・・・ 上記の平均を取ったときの「５」や、測定回数の数値や、測定していない数で１００で割れと書いてあったりしたときは、それらの数字の桁数も考えなければならないんでしょうか？ 読みづらい文章かもしれませんが、ご回答待っています。
- 締切済み
- その他（学問・教育）
- 有意桁数、有効桁数について
有意桁数というものがあって、それが公に認知されている(出所がJISとかその他の公知規格)ものなのか、また有効桁数との関係等を悩んでいます。どなたかそちら方面に詳しい方がいらっしゃいましたら是非教えてください。お願いいたします。 有意桁数 ・測定値に小数点が含まれている場合、または10のべき乗で示されている場合はべき乗以外のすべての桁を有意桁数とする。 例：0.001ー有意桁数3、1.01ー有意桁数3、３×10⁴－有意桁数1、1.25×10⁵ ー有意桁数3 ・べき乗で示されていない自然数の場合で数値の後ろにゼロがある場合は、ゼロを省いた上位の数字の桁数を有意桁数とするが、１桁となる場合は、”2桁”とみなす(最低でも２桁とする)。 例；5000ー有意桁数2、3150ー有意桁数3、10ー有意桁数2、201ー有意桁数3 ・測定値のToleranceは、有意桁の最下位の1つ下の位で四捨五入する値とする。
- 締切済み
- 数学・算数
- 有効桁数について
レポートで有効桁数というものが出てきたんですが良く分かりません。つまりは有効桁数というのは、 「1.5－0.15=1.3」というので、小数点以下の計算の場合、結果は精度が低いほうの桁で応えるというものですよね？？（汗） 聞きたいのは単位を「mm」から「m」に直したときの有効桁数のことなんですが、 例えば「100.5mm－10.3mm=90.2mm」じゃないですか？ これを[m]に直したときの有効桁数は、 「0.0902m」なんですか？ それとも「0.09m」なんでしょうか？ 良く分からないのでよろしくおねがいします。
- ベストアンサー
- その他（学問・教育）
- 有効数字と桁数について
有効数字と数字の桁数について、教えていただきたいことがあります。 大学で先生が測ってきた環境調査データの整理をしているのですが、ある濃度について、小数点以下が２桁のものと３桁のものが混在していました。 例えば、このような感じです。 0.23 mg/L 0.083 mg/L 違和感を感じたので、「0.220 mg/Lとしたり、四捨五入して0.08mg/Lとしたりしなくていいのですか？」と聞いたところ、「どちらも、有効数字２桁だから問題ない」と言われました。 0.23とは本来、0.225～0.235までの範囲の総称を0.22と言い、0.083とは本来、0.0825～0.0835までの範囲の総称を言うそうですが、そもそも、どちらの数字も同じ分析器機器で測定可能ということでした。ということは、基本的には1/1000の位までは正確に測れるんだと思います。ということは、0.23という数字についても小数点以下3桁で書くのが正しいのではないかと思ったのですが、こういう考えはダメでしょうか？ また、別の項目では、 0.05 mg/L 0.21 mg/L という2つの数字が出てきました。 この場合、上の有効数字は1桁で、下の有効数字は2桁と考えられ、桁があってないのではないかと思います。 これは問題ないのでしょうか？ 教えていただきたくよろしくお願いします。
- 締切済み
- 数学・算数
- 平均値の桁数に関して
例えば、実験をして正規分布に従うデータが出たとします。 その平均値と標準偏差がそれぞれ4.567893と2.33543のような値になったとします。 このとき、4.567893±2.33543という表現で数値を表そうとしたとき、意味のある桁数（四捨五入するべき桁数）はこれら平均値と標準偏差の比から決まるという話を聞いたのですが、 具体的にどうやって決めれば良いのでしょうか？ 相対誤差が関係あるようなことを聞いたのですが、どなたか知ってらっしゃったら教えて下さい。
- ベストアンサー
- 数学・算数
- 有効桁数について
ある測定値７５．８８と測定値ではない任意の数１５などを掛け合わしたとき 電卓でこの計算をすると１１３８．２となります これは掛け算なので有効桁数は演算における実数の有効桁数が一番少ないもので決まるので、７５．８８の有効桁数４桁をつかって１１３８とするのが正しいのでしょうか？ それとも（測定値）×（測定値ではない値）のときは有効桁数は考慮しないで１１３８．２（１１３８．２０？）とした方が良いのでしょうか？ １５×７５．８８とは７５．８８を１５回足すことなので、１５回足し算した場合は、１１３８．２０が有効数字の扱い方としては正しいですよね？ 大変困っています・・・ 有効数字の扱い方はどうすればよいか教えてください、あまりにも小さい誤差は気にしないとかではなく、有効数字の扱い方はどうすればいいかを教えて欲しいです。
- 締切済み
- 物理学
- AutoCAD LT 2004 入力時の有効桁数…
AutoCAD LT 2004 入力時の有効桁数設定がわかりません AutoCAD LT 2004を使っています。いつの間にか入力時の有効桁数が変わってしまい、所望のパターンが作れません。(有効桁数小数点以下5桁が2桁になってしまった) 例)0.3mmの円を片側0.115mmオフセットして0.07mmの円にしようとすると、オフセット値が勝手に0.12になってしまい、0.08mmの円になってしまう。 多分どこかで設定可能だと思うのですが、判りません。また、なぜ設定が突然変わってしまったのかも判りませんが、客先データを開き始めたあたりを疑っています。 皆様よろしくお願いします。
- ベストアンサー
- ２Ｄ
- 有効数字とはなんですか？
中学生にもわかるように説明してくだされば幸いです。 色々調べたのですが、よくわからなくて、、 以下の認識で合ってますか？ 認識：近似値や測定値を表す数字のうち，実用上有意義な桁数だけとった数字。 また、「有効桁数」とは、有効数字の桁数のこと。 例えば、1．2345という数字があったとしたら、実用上有意義な桁数が3なら、有効数字は1.23で、有効桁数は3桁。 また、０の処理については以下の通り。 0ではない数字に挟まれた0は有効である。例えば、 60.8 は有効数字3桁である。 39008 は有効数字5桁である。 0ではない数字より前に0がある場合、その0は有効ではない。例えば、 0.093827 は有効数字5桁である。 0.0008 は有効数字1桁である。 0.012 は有効数字2桁である。 小数点より右にある0は有効である。例えば、 35.00 は有効数字4桁である。 8 000.000000 は有効数字10桁である。
- ベストアンサー
- 数学・算数
- 平均値の有効数字
もしミクロメーター(最小目盛り0.01mm)という測量器具でコインの厚さを求めた。10回の測量結果を書いてみる 1.550 1.510 1.540 1.530 1.496 1.514 1.490 1.530 1.494 1.501 (単位すべてmm) そしたら問題の平均を取る事になる。 でもそのそれぞれのデータに誤差があるから すべて ±0.001mmになるんですか?(最小目盛りの1/10) そしたら平均を取ったら±の前の部分の平均と誤差の平均を足すんですか？そうなると10このデータの平均を出すと有効数字が一個増える事にはならないんですよね。じゃ平均を出すメリットはないんじゃないんでしか。 あといろんな資料を見たんですが。10このでーたの標準偏差で平均の誤差を出してるやり方があるんですが、そうなると有効数字3桁しか信用できない事になるんですが、どうでしょうか？ 回答お願いします！
- 締切済み
- 科学
お礼
皆様ありがとうございます。 御礼が遅くなってしまい申し訳ありません。 ＞一般に n=10 を「データ数が多い」とは呼べないと思いますし、参考URLで示しているようなもともとバラツキの少ない例で「n=10 で有効数字を1桁増やせた！」と言われても、回答として不十分だと思うのですが。。。 # データ数が多いといった場合、n≧50 はほしいところではないでしょうか。 ＃７のご回答の中にもありますが分散は１／√ｎで小さくなっていくというのが元々の根拠だろうと思います。 １０個のデータで求めた分散と１００個のデータで求めた分散を比べると１００個の方の分散が０．３倍ぐらいになっているということです。それだけシャープになるのです。 ただこの場合も個々のデータを何桁で測ったかということと平均値の精度はいくらかということとは直接の関係はありません。 ＃７にも書かれていますがこのデータの場合、せいぜい２桁です。その２桁目の幅が平均によって狭まくなるだけです。 平均しても２桁の精度（信頼性）しかない、という＃７のご回答に納得できるものがあります。 ５０回、１００回とやっても３桁にするのがせいぜいでしょう。 とにかく測定の精度が悪すぎます。