実験データの有効数字の扱いについて
- 実験データを分析する際に、長さの２乗をする場合、有効数字を適切に扱う必要があります。
- 実験データの中には、有効数字のルールに従って丸めると値が増えるものがあるかもしれません。
- このような場合は、有効数字の計算を行う前にデータを適切に丸める必要があります。
- ベストアンサー
この実験の有効数字の扱い
この実験の有効数字の扱い とある実験をして次のようなデータを得ました。 長さ(mm) 長さの２乗(mm^2) 181.5 32943.3 104.9 11004.0 85.0 7225.0 70.0 4900.0 57.7 3329.3 46.3 2143.7 37.4 1398.8 35.2 1239.0 30.2 912.0 25.1 630.0 ここで、長さの２乗をしたものは有効数字の考えに沿って、 7225.0なら723ですよね。 912.0なら912ですよね。 そうなると急に数が増えておかしくなっちゃうのですが・・・ どう対処すればよいのでしょうか。
- gezigezi
- お礼率92% (461/498)
- 化学
- 回答数2
- ありがとう数17
- みんなの回答 （2）
- 専門家の回答
質問者が選んだベストアンサー
＞急に数が増えておかしくなっちゃうのですが・・・ これはどういう意味でしょうか。
その他の回答 (1)
- swisszh
- ベストアンサー率64% (242/377)
1) 181.5 > 32940= 3.294*10 ^3, 104.9 > 1100=1.100*10^3, 85.0 > 7230= 7.23*10^3, 30.2 > 912= 9.12*10^2, 70.0 > 4.90*10^3, 37.4 > 1400=1.40*10^3, 57.7 > 3330=3.33*10^3, 2) 181.5 to 104.9 ha 4 keta, 85.0, 70.0, ......... 30.2 and 25.1 ha 3 keta desu. 0.1mm ga limit.
関連するQ&A
- 実験の際の有効数字について
大学の生化学実験の試薬調整のマニュアルなんですが、下記のように虫食いになっていて自分で埋めるようになっています。 ～ｇのＮａＨ2ＰＯ4・２Ｈ2Ｏ（分子量１５６．０１）を蒸留水に溶かし全量を１００ml、0.2Mリン酸ナトリウムバッファー（ｐｈ７．０）を調整する。 ～は0.1×0.2×156.01＝3.1201と求まると思うんですが、掛け算のときは有効数字の桁数の少ない数に合わせるので0.1と0.2の一桁に合わせて～に３と入れました。 しかし、実験の前に答え合わせをしたんですが、答えは３．１２でした。 自分の有効数字の考え方間違ってますか？なぜ３．１２なのか分かりません。お願いします。
- ベストアンサー
- 化学
- 平均値をとると有効数字が増える？
普通の物差しで測った有効数字3ケタのデータ 2.0[mm] 2.1 2.2 2.1 1.9 2.0 があったとします。各データには±0.1程度の誤差があると考えられます。 これらの合計をとると，和の場合の有効数字は末位が最高位のもの合わせるので，今の場合，0.1位までで計算すればよいので 12.3 となりますよね。これをデータ数6で割りますが，この場合の6というのは正確な6であり，どこまでも6.000…で正しい，有効数字は無限大桁と考えられます。割り算の場合，商の有効桁数は有効数字は有効桁数の少ない方に合わせるので 2.05 となり，現データの2ケタよりも多い3ケタになります。これは正しいのですか？
- ベストアンサー
- 数学・算数
- 物理学実験の計算 有効数字
大学で物理学実験をしていてふと疑問にかんじた点があったため質問したいと思います。 Ｖ１ ＝ 91.0〈V〉 Ｖ２ ＝ 22.0〈Ｖ〉 Ｖ３ ＝ 70〈V〉 Ｉ ＝ 2.16〈Ａ〉 Ｓ ＝ 15.092・・ ＝１５（有効数字2桁のため） Ｐ ＝ 14.2・・ ＝１４（有効数字2桁のため） という測定結果がでたんです。 この結果からＱをだすんですが、 （ちなみに、Ｑ＝√（Ｓの二乗 － Ｐの二乗）です） この場合はＳとして１５を代入するべきか１５．０を代入するべきか迷ってます。Ｐについても同様です。 結果はＳ＝１５、Ｐ＝１４をいれると、Ｑ＝５．４という結果になり、Ｓ＝１５．０、Ｐ＝１４．２を代入するとＱ＝４．８になります。どちらが正しいのかわかるかた答えてくれるとありがたいです。 できれば詳しい解説もよろしくお願いします。
- ベストアンサー
- 物理学
- 最小二乗法と有効数字
先日学校の授業で実験をしました。実験で得られたデータを方眼紙にプロットすると、きれいな直線になりそうなグラフになりました。そこで最小二乗法をつかってグラフの式を出したのですが、プロットしたグラフと全然合わないものになってしまいました。計算中に桁数を合わせるために有効数字を揃えて計算しました。先生に有効数字を揃えてはいけないといわれたのですが、その理由がわかりません。どなたか教えてください。
- 締切済み
- 数学・算数
- 物理においての有効数字について
高校物理の問題においての有効数字の使い方についてお聞きします。 先日出会った問題なのですが、小問に以下のようなものがありました。 「電気容量6μFのコンデンサー(1〔μF〕＝10のマイナス６乗〔F〕)を、24Vの電池に接続し、充分な時間でもって充電した。このときコンデンサーに充電された電気量はいくらか」 一応公式Q=CVにあてはめ、また掛け算のときの「計算上で桁数の小さい数字の桁数で答えを出す」という有効数字の考え方を使って・・・ ６×（10の－6乗）×24＝1.4・・・×（10の－6乗）≒１×(10の－6乗) としました。かなり違和感がありました。 解答は1.44×(10の－6乗)でした。 詳しい方、考え方をお教えくださいｍｍ 「2倍になった」とか「比は2:3であった」みたいに、言葉で問題中に示された数字を式に用いるときは、この「×２」とか「×1.5」の桁数にあわせる必要が無いのは分かるのですが、今回の「６」は・・・？
- ベストアンサー
- 物理学
- マイケルソン・モーリーの実験の正しい解釈を教えて。
ＭＭ実験から、光速不変が証明されたとする考えがありますが、 また一方で、光速不変を証明した実験ではないとも言われて いるようです。 どっちが本当なのでしょうか？
- ベストアンサー
- 物理学
- 《エクセル2000》なぜか文字列になっている半角数字を、一気に数字扱いにするには？
LEFT関数を使って切り取った半角数字が、文字列扱いになっています。（文字数字混在のセル…つまり文字列であるセルから切り取ったからでしょうか？） セルをダブルクリックし、エンターキーを押すと、こちらもなぜか数字扱いになるのですが（以上一連の作業はISNUMBER関数で確認）、データが数百件あるので、これを一気に行う方法はないでしょうか。 よろしくお願いします。
- ベストアンサー
- オフィス系ソフト
- ４つの数字を使って・・・
中学生です。 よく切符に書いてある４つの数字を足したり引いたりで１０にする、 っていうのがありますよね？ それに似ているんですが ２ １ ７ ８ この４つの数字に記号をつけて、結果を５にする方法はありますか？ あれば教えてください！ また７にする方法も教えてください！ 記号をつけるというのは、 ・数字の間に＋，－，÷，×を入れる（－を負の数の符号として使うのは×） ・数字に√，（）をつける ・数字を指数に使う（例：２＋１の７乗＋８・・・みたいなo( _ _ )o） ただ、数字の順番を変えてはいけません。 例えば １２にするんだったら （√２×[√１＋√７]）＋８ ＝ １２ （この式でさえ合ってるか分かりませんが・・・） そもそも５や７に出来るのでしょうか？（汗 もしかしたら説明不足かもしれませんが、分かる方、お願いします！
- ベストアンサー
- 数学・算数
- 最小二乗法における有効数字について
最小二乗法における有効数字について質問があります． 直線近似を行うとします．最小二乗法を用いるデータの有効数字を考慮して，最小二乗法により求められた直線の傾きa，切片b の有効数字が決まると思うのですが，どのようにこの有効数字を決定すれば良いのでしょうか？
- ベストアンサー
- 科学
お礼
回答ありがとうございます。 説明不足でした。すみません。 ですが、なんとか対処できました。