- ベストアンサー
有効数字の桁数と平均操作
masa2211の回答
>測定を１０回繰り返すということをやれば平均値の有効桁は測定の有効桁よりも１つ増やすことが出来ます。 というのは、一般論としては正しいですが、正確には、 測定誤差÷（√ｎ） （ｎ：測定回数） というべきです。 で、測定データは0.5mmきざみだから、どう贔屓目にみても、 測定誤差は0.25ｍｍであって0.05ｍｍとはなりません。 よって、0.25÷√10で、約0.1ｍｍであるので有効桁は0.1ｍｍの位まで。 詳細に計算する場合、データの標準偏差をもとめ、これが平均値の測定精度になります。 （確率偏差（＝標準偏差×0.6745）で考える流儀もあり。） このデータの場合、標準偏差1.7となるので、 92.8±1.7すなわち91.1～94.5となり、有効桁は２桁です。 また、測定値の場合は、測定にミスがあるかどうか検定してから使います。 測定データの97.0は、平均から飛びぬけてずれており約2.5σ離れているので、 おそらくは測定ミスです。 ですので、97.0を測定ミスとして除外すると 平均＝92.3 標準偏差＝0.6 となるので、それでも有効桁は２桁です。 ただし、計算の途中経過は有効桁＋1桁まで保持しないと、その後の計算で誤差が累積する という関係があり、測定データは何かの計算に使うだろうから、３桁目は怪しさ99％ですが、 平均＝92.3 と３桁記述するほうが普通でしょう。
関連するQ&A
- 有効桁数について
ある数値を５回測定したとします A 5.039 B 5.075 C 5.092 D 5.064 E 5.058 有効桁数はすべて４桁ですよね？ 次にA～Eの平均を取ると (A+B+C+D+E)/5=5.0656 と関数電卓で結果がでますが、４桁に丸めて5.066とすれば有効桁数の扱い方としては問題ないですか？ そしてA～Eの平均の２乗をするときは、上記の平均を有効桁数４桁に丸めた5.066を２乗して (5.066)^2=25.664356 となり、そして5.066の有効桁数４桁に合わして25.66とすればいいのでしょうか？ それとも平均の値を４桁に丸める前の電卓で出た値のまま２乗した後、最終的に４桁に丸めるのがいいのでしょうか？この数値だとどちらでやっても４桁にした値は変わりませんが・・・ 有効桁数の扱い方で問題があったら教えてください、また平均の２乗を求めるときはどちらが正しいのでしょうか？ （平均の値の２乗は平均×平均なのだから平均の値を４桁にせず５桁として計算すると平均の２乗は有効桁数５桁と考えるので、やはり正しく平均の値を測定値の有効桁数４桁に丸めて出した平均の値を２乗する方が正しいですかね・・・） また、上記の平均の計算をしたときのよな、「5」などの数字の有効桁数は何桁ですか？１桁なんでしょうか？もし１桁なら割り算をしているので有効桁数はいちばん桁数の少ないものに合わせるので有効桁数１となると平均の値が「5」となりおかしいとおもうんですが・・・ 上記の平均を取ったときの「５」や、測定回数の数値や、測定していない数で１００で割れと書いてあったりしたときは、それらの数字の桁数も考えなければならないんでしょうか？ 読みづらい文章かもしれませんが、ご回答待っています。
- 締切済み
- その他（学問・教育）
- 有意桁数、有効桁数について
有意桁数というものがあって、それが公に認知されている(出所がJISとかその他の公知規格)ものなのか、また有効桁数との関係等を悩んでいます。どなたかそちら方面に詳しい方がいらっしゃいましたら是非教えてください。お願いいたします。 有意桁数 ・測定値に小数点が含まれている場合、または10のべき乗で示されている場合はべき乗以外のすべての桁を有意桁数とする。 例：0.001ー有意桁数3、1.01ー有意桁数3、３×10⁴－有意桁数1、1.25×10⁵ ー有意桁数3 ・べき乗で示されていない自然数の場合で数値の後ろにゼロがある場合は、ゼロを省いた上位の数字の桁数を有意桁数とするが、１桁となる場合は、”2桁”とみなす(最低でも２桁とする)。 例；5000ー有意桁数2、3150ー有意桁数3、10ー有意桁数2、201ー有意桁数3 ・測定値のToleranceは、有意桁の最下位の1つ下の位で四捨五入する値とする。
- 締切済み
- 数学・算数
- 有効桁数について
レポートで有効桁数というものが出てきたんですが良く分かりません。つまりは有効桁数というのは、 「1.5－0.15=1.3」というので、小数点以下の計算の場合、結果は精度が低いほうの桁で応えるというものですよね？？（汗） 聞きたいのは単位を「mm」から「m」に直したときの有効桁数のことなんですが、 例えば「100.5mm－10.3mm=90.2mm」じゃないですか？ これを[m]に直したときの有効桁数は、 「0.0902m」なんですか？ それとも「0.09m」なんでしょうか？ 良く分からないのでよろしくおねがいします。
- ベストアンサー
- その他（学問・教育）
- 有効数字と桁数について
有効数字と数字の桁数について、教えていただきたいことがあります。 大学で先生が測ってきた環境調査データの整理をしているのですが、ある濃度について、小数点以下が２桁のものと３桁のものが混在していました。 例えば、このような感じです。 0.23 mg/L 0.083 mg/L 違和感を感じたので、「0.220 mg/Lとしたり、四捨五入して0.08mg/Lとしたりしなくていいのですか？」と聞いたところ、「どちらも、有効数字２桁だから問題ない」と言われました。 0.23とは本来、0.225～0.235までの範囲の総称を0.22と言い、0.083とは本来、0.0825～0.0835までの範囲の総称を言うそうですが、そもそも、どちらの数字も同じ分析器機器で測定可能ということでした。ということは、基本的には1/1000の位までは正確に測れるんだと思います。ということは、0.23という数字についても小数点以下3桁で書くのが正しいのではないかと思ったのですが、こういう考えはダメでしょうか？ また、別の項目では、 0.05 mg/L 0.21 mg/L という2つの数字が出てきました。 この場合、上の有効数字は1桁で、下の有効数字は2桁と考えられ、桁があってないのではないかと思います。 これは問題ないのでしょうか？ 教えていただきたくよろしくお願いします。
- 締切済み
- 数学・算数
- 平均値の桁数に関して
例えば、実験をして正規分布に従うデータが出たとします。 その平均値と標準偏差がそれぞれ4.567893と2.33543のような値になったとします。 このとき、4.567893±2.33543という表現で数値を表そうとしたとき、意味のある桁数（四捨五入するべき桁数）はこれら平均値と標準偏差の比から決まるという話を聞いたのですが、 具体的にどうやって決めれば良いのでしょうか？ 相対誤差が関係あるようなことを聞いたのですが、どなたか知ってらっしゃったら教えて下さい。
- ベストアンサー
- 数学・算数
- 有効桁数について
ある測定値７５．８８と測定値ではない任意の数１５などを掛け合わしたとき 電卓でこの計算をすると１１３８．２となります これは掛け算なので有効桁数は演算における実数の有効桁数が一番少ないもので決まるので、７５．８８の有効桁数４桁をつかって１１３８とするのが正しいのでしょうか？ それとも（測定値）×（測定値ではない値）のときは有効桁数は考慮しないで１１３８．２（１１３８．２０？）とした方が良いのでしょうか？ １５×７５．８８とは７５．８８を１５回足すことなので、１５回足し算した場合は、１１３８．２０が有効数字の扱い方としては正しいですよね？ 大変困っています・・・ 有効数字の扱い方はどうすればよいか教えてください、あまりにも小さい誤差は気にしないとかではなく、有効数字の扱い方はどうすればいいかを教えて欲しいです。
- 締切済み
- 物理学
- AutoCAD LT 2004 入力時の有効桁数…
AutoCAD LT 2004 入力時の有効桁数設定がわかりません AutoCAD LT 2004を使っています。いつの間にか入力時の有効桁数が変わってしまい、所望のパターンが作れません。(有効桁数小数点以下5桁が2桁になってしまった) 例)0.3mmの円を片側0.115mmオフセットして0.07mmの円にしようとすると、オフセット値が勝手に0.12になってしまい、0.08mmの円になってしまう。 多分どこかで設定可能だと思うのですが、判りません。また、なぜ設定が突然変わってしまったのかも判りませんが、客先データを開き始めたあたりを疑っています。 皆様よろしくお願いします。
- ベストアンサー
- ２Ｄ
- 有効数字とはなんですか？
中学生にもわかるように説明してくだされば幸いです。 色々調べたのですが、よくわからなくて、、 以下の認識で合ってますか？ 認識：近似値や測定値を表す数字のうち，実用上有意義な桁数だけとった数字。 また、「有効桁数」とは、有効数字の桁数のこと。 例えば、1．2345という数字があったとしたら、実用上有意義な桁数が3なら、有効数字は1.23で、有効桁数は3桁。 また、０の処理については以下の通り。 0ではない数字に挟まれた0は有効である。例えば、 60.8 は有効数字3桁である。 39008 は有効数字5桁である。 0ではない数字より前に0がある場合、その0は有効ではない。例えば、 0.093827 は有効数字5桁である。 0.0008 は有効数字1桁である。 0.012 は有効数字2桁である。 小数点より右にある0は有効である。例えば、 35.00 は有効数字4桁である。 8 000.000000 は有効数字10桁である。
- ベストアンサー
- 数学・算数
- 平均値の有効数字
もしミクロメーター(最小目盛り0.01mm)という測量器具でコインの厚さを求めた。10回の測量結果を書いてみる 1.550 1.510 1.540 1.530 1.496 1.514 1.490 1.530 1.494 1.501 (単位すべてmm) そしたら問題の平均を取る事になる。 でもそのそれぞれのデータに誤差があるから すべて ±0.001mmになるんですか?(最小目盛りの1/10) そしたら平均を取ったら±の前の部分の平均と誤差の平均を足すんですか？そうなると10このデータの平均を出すと有効数字が一個増える事にはならないんですよね。じゃ平均を出すメリットはないんじゃないんでしか。 あといろんな資料を見たんですが。10このでーたの標準偏差で平均の誤差を出してるやり方があるんですが、そうなると有効数字3桁しか信用できない事になるんですが、どうでしょうか？ 回答お願いします！
- 締切済み
- 科学
お礼
皆様ありがとうございます。 お礼が遅くなってしまい申し訳ありませんでした。 個々のデータが３桁で表されているということとデータの信頼性が３桁であるということとは別の話だ、データが１０個あれば１桁増やすことが出来るというのは元のデータの信頼性の桁についてだと考えていたのが間違っていなかったという風に思いました。この場合のデータで言えば２桁を確定させるのがせいぜいだということです。 元々の質問にあったのは長さの測定です。学校でやった実験ですから決まった長さの試料を渡し１ｍの竹尺で測るというものだろうと思います。３０ｃｍの竹尺は最小目盛りが１ｍｍですが１ｍの竹尺の最小目盛りは５ｍｍです。これで新聞紙のようなものを測ったのだろうと思います。新聞紙は規格がありますから最小の５ｍｍの範囲に収まるはずです。数ｃｍの幅があるということは皺、たるみ、目盛りの読み違いが突っ込みになっていると思います。 私なら３０ｃｍの竹尺でコピー用紙（更半紙）を使います。きちんとカットされていますからばらつきは０．１ｍｍ以下のはずです。 ｍｍまで確定しているはずです。ｍｍ以下を目分量で読み取るということをやった時に１０個のデータがあればそのところをある程度確定させることが出来るという事になります。 測定の練習であれば「同じもののはずなのにこれだけ値がずれるのは測り方に問題がある」ということを具体例で示すということになります。その場合は有効桁が増えるとかどうとかということは問題にしません。 実験指導をされている先生に問題がありそうです。