- ベストアンサー
有効数字について
最小二乗法の計算をするに当たって有効数字を考えています。もしx=5.00という値が得られたとすると、x^2を考えるとき、やはり5.00×5.00=25.0(3桁)とすべきなのでしょうか？というのも、他のx^2の値が小数点以下第2位まで得られているので、それらを足し算すると小数点以下が第1位までとなってしまうのです。 知識不足なもので恐縮ですがよろしくお願いします。
- 化学
- 回答数2
- ありがとう数3
- みんなの回答 （2）
- 専門家の回答
質問者が選んだベストアンサー
こんにちは。 たとえば、 ５．００±３％ （数値では、５．００±０．１５） であるとき、 ２乗すれば、誤差の割合は２倍になり、 ２５．０±６％ （数値では、２５．０±１．５） となります。 数値で言えば、母体の数字は５倍なのに、誤差は１０倍になるということです。 よって、２乗したとき、有効数字は当初と同じ３桁として構いません。 データの個数が十分であれば、３桁以上の細かい数字で最小二乗法の計算を行っても、３桁だけで計算を行っても、結果はほとんど変わりません。（同じと言ってもよいです。） なお、最小二乗法の結果、出てきた数字については、３桁以上の有効数字で考えることができます。 たとえば、データが全部整数であっても、最小二乗法で得られた切片の値の小数点以下の数字には意味があります。
その他の回答 (1)
- c80s3xxx
- ベストアンサー率49% (1631/3289)
最小二乗法で計算するときは，計算できる限り桁をいっぱいに使って計算するべきでしょう． さらに，最終結果については，有効数字でなく，「信頼区間」で評価すべきです．
お礼
信頼区間についても勉強してきちんと評価できるようにしたいと思います。有り難うございました。
関連するQ&A
- JISに従った数字の丸め方、これで合ってますか？
よろしくお願いいたします。 JISに従った数字を丸め方、これで合っているでしょうか？ 【1】1.385を小数点以下2桁に→1.38 【2】1.3845を小数点以下2桁に→1.38 【3】1.2501を有効数字2桁に→1.3 【4】0.9876を有効数字３桁に→0.987 もし間違っていたらご指摘ください。
- ベストアンサー
- 測定・分析
- 有効数字について
かなり基本的な質問をさせていただきます（汗）。 私は、化学基礎実験で硫酸の調整を行いました。 そこで硫酸のファクターを計算で求めようとしたのですが、有効数字について疑問に思うことがありました。 滴定値の桁は4桁までの精度なので、ファクターも4桁にすべきなのではないでしょうか？ 実例） 水酸化ナトリウムの滴定値 16.96ｍl 計算 1×0.05×1.031×16.96＝2×0.05×ｘ×10.00 ｘ＝0.874288 ≒0.8743 H２SO４の濃度 N/20（Ｆ＝0.8743） 0.8743×(1/20)＝0．043715＝0．04372Ｎ でも、水酸化ナトリウムの滴定値は小数点以下2桁なので、ファクターもそうすべきではないかという話も聞いたので、混乱しています。 実例） 水酸化ナトリウムの滴定値 16.96ｍl 計算 1×0.05×1.031×16.96＝2×0.05×ｘ×10.00 ｘ＝0.874288 ≒0.87 H２SO４の濃度 N/20（Ｆ＝0.87） 基本的な質問で恐縮ですあ、宜しくお願いします(>_<)
- ベストアンサー
- 化学
- 化学での有効数字について（途中計算）
以下についてアドバイスいただけると助かります。 有効数字について 和・差について・・・小数点以下の桁数が少ない方に合わせる 積・商について・・・桁数が少ない方に合わせる については、分かったのですが、有効数字３桁での指定があるときに 19.1、24.5889、0.12553、3.2952の4つの数にたいして ○和を筆算で求める場合 小数第1位に合わせるために、 19.1→19.10（小数第2位表示） 24.5889→24.58（小数第3位切り捨て） 0.12553→0.12（小数第3位切り捨て） 3.2952→3.29（小数第3位切り捨て） として和を求め、小数第1位（小数第2位四捨五入）にする ○積を筆算で求める場合 有効数字３桁に合わせるために、 19.1→19.10（有効数字4桁表示） 24.5889→24.58（5桁目切り捨て） 0.12553→0.1255（5桁目切り捨て） 3.2952→3.295（5桁目切り捨て） として積を求め、有効数字を3桁（4桁目は四捨五入）にする と思っています。 １．このやり方で大学受験では問題ないのでしょうか。 特に気になっているのは、計算をする前の丸め方（すべて切り捨てにしているところ）です。 ２．計算ステップがいくつもあり、一度に計算ができない場合、そのステップ毎に得られる数の 丸め方は切り捨て・四捨五入のどちらがよいのでしょうか。 よろしくお願いします。
- ベストアンサー
- 化学
- エクセル(Excel)で、数値を一定の有効数字で表示したいのですが…
エクセル(Excel)の書式設定の表示形式では数値を選択すると、小数点以下の桁数を揃えることができますが、同じ感覚で有効数字を一定にして表示させるにはどんな方法があるでしょうか？ 例えば、0.01234、0.1234、1.1234、11.1234、111.1234という五つの値を、有効数字3桁を指定して表示して、順に0.0123、0.123、1.12、11.1、111という風に自動的に表示してくれる表示形式、あるいは関数を探しています。 事務計算で小数点以下何桁というのが重要であるように、技術計算ではこのように有効数字を揃えたい場合が多いと思いますので、どなたかご存じの方、お教えください。 なお、指数形式では似たような結果になりますが、わかりにくい表示なので使いたくありません。 よろしくお願いいたします。
- ベストアンサー
- オフィス系ソフト
- 最大50桁の実数の和・差・積を求めたい
Ｃ++で、２つの最大50桁の実数を入力して、その和・差・積を求めるプログラムを作りたいのです。 実数をchar型に入力させて、それを1桁ずつint型に変換したいのですが、どのようにやればよいのでしょうか？ また、その際、符号や小数点はどうすればよいのでしょうか？ 計算の流れとしては、 ○足し算 小数点を合わせる ⇒下位の桁から1桁ずつ足し算していく ⇒結果が10以上の場合、10を引き、左隣の桁の数字に１を加える ○引き算 小数点を合わせる ⇒下位の桁から１桁ずつ引き算していく ⇒引かれる数字のほうが引く数字より小さい場合、引かれる数字に10を足し、左隣の桁の引かれる数字から１を引く というような感じで考えているのですが、小数点の合わせ方がわかりません。 また、掛け算に関しては、筆算の要領でやろうと思うのですが、どのようにやればよいのでしょうか？ 私はＣ++の勉強歴が短いので、できれば初心者向けのわかりやすい説明でお願いします。
- ベストアンサー
- C・C++・C#
- エクセルで有効数字を設定する方法
設定した有効数字で計算結果を表示するよう方法を教えて下さい。小数点以下何桁というのではなく、有効数字です。例えば3桁に設定した場合、0.0012345と入力して0.001と表示されるのではなく、0.00123と表示されるような設定にしたいのです。宜しくお願いします。
- ベストアンサー
- オフィス系ソフト
- 測定値と有効数字
目盛りのついた測定機器を用いて、測定値を求めた場合の有効数字の考え方がよく分からなくて困っております。例えば、以下のような場合ではどのように有効数字を取ればいいのでしょうか？ 例）ノギスを用いて（最小目盛り0.1）２つの試験片の長さLを測定し、測定値を用いてX＝L×3.14の計算を行う。 <試験片a> L : 1.12 <試験片b> L : 11.24 この場合 aの有効数字3桁で1.115から1.125の中に真値あり（誤差±0.05） bの有効数字4桁で11.235から11.245の中に真値あり（誤差±0.05） と考え、最終的に計算式に代入すると <a> X=1.12×3.14=3.5168＝3.52 ← 有効数字3桁で3.515から3.525の中に真値（誤差±0.05） <b> X=11.24×3.14=35.2936＝35.29 ← 有効数字4桁で35.285から35.295の中に真値（誤差±0.005） として良いのでしょうか？同じ測定機器から求めた値にも関わらず、掛け算を行ってしまうと、測定誤差が異なってくるのに違和感を感じます。 回答よろしくお願いします。
- ベストアンサー
- 物理学
お礼
丁寧な解説をどうも有り難うございました。