- 締切済み
有意桁数、有効桁数について
有意桁数というものがあって、それが公に認知されている(出所がJISとかその他の公知規格)ものなのか、また有効桁数との関係等を悩んでいます。どなたかそちら方面に詳しい方がいらっしゃいましたら是非教えてください。お願いいたします。 有意桁数 ・測定値に小数点が含まれている場合、または10のべき乗で示されている場合はべき乗以外のすべての桁を有意桁数とする。 例:0.001ー有意桁数3、1.01ー有意桁数3、3×10⁴-有意桁数1、1.25×10⁵ ー有意桁数3 ・べき乗で示されていない自然数の場合で数値の後ろにゼロがある場合は、ゼロを省いた上位の数字の桁数を有意桁数とするが、1桁となる場合は、”2桁”とみなす(最低でも2桁とする)。 例;5000ー有意桁数2、3150ー有意桁数3、10ー有意桁数2、201ー有意桁数3 ・測定値のToleranceは、有意桁の最下位の1つ下の位で四捨五入する値とする。
- 40madowazu
- お礼率100% (2/2)
- 数学・算数
- 回答数2
- ありがとう数2
- みんなの回答 (2)
- 専門家の回答
みんなの回答
- alice_44
- ベストアンサー率44% (2109/4759)
その 0.001 と 5000 の「桁数」は、 いわゆる有効桁数とは明らかに違うし、 何だか随分恣意的な感じなんだけれど… 誰がが私的に使っている記法でしょうか。 できれば、出典など挙げてもらえませんか?
- hitokotonusi
- ベストアンサー率52% (571/1086)
>例:0.001ー有意桁数3 これは×です。この0は位取りを示すだけの0なので有効桁数は1です。 >例;5000ー有意桁数2、3150ー有意桁数3、10ー有意桁数2 ここの0は位取りの0とも有効桁を意味する0とも受け取れるので、 前後の文脈で判断するしかありません。 有効桁数が重要な意味を持つなら、できれば避けたほうがいい書き方です。 >測定値のToleranceは、有意桁の最下位の1つ下の位で四捨五入する値とする。 JISではもう少し複雑な丸め方が規定されています(JIS丸め)。 しかし、最近は計算機を使うことも多いので四捨五入ですますことも増えているようです。
お礼
hitokotonusi様 早々に御回答いただきましてありがとうございます。 明快な回答で、すっきりしました。
関連するQ&A
- エクセルで数値の桁数を一定の法則で統一したい
E列にA~D列のデータから計算された数値が並んでいます。 たとえば E1:9.9 E2:86.08695652 E3:212.8571429 E4:1158.13953488372 これらを E1:9.90 (整数1桁の場合は四捨五入して小数2桁まで) 1未満の数値も小数2桁で(例、0.96) E2:86.1 (整数2桁の場合は四捨五入して小数1桁まで) E3:213 (整数3桁の場合は四捨五入して小数カット) E4:1158 (整数4桁の場合は四捨五入して小数カット) 上記の法則で見やすく整理したいのです。 整数4桁が最大です。大量のデータをまとめて整理出来る方法は ないでしょうか?よろしくお願いします。
- ベストアンサー
- その他(データベース)
- Excelで任意の桁数で四捨五入させその桁数以下は表示させたくない場合
Excelで任意の桁数で四捨五入させその桁数以下は表示させたくない場合はどのようにしたらいいでしょうか? 具体的には、売上の数字の百桁目を四捨五入させ、かつ表示では下3桁はカットし(千円)で表示させます。欲を言うと、桁区切りは残したいです。 とても困ってます。 Excel2007です。
- ベストアンサー
- オフィス系ソフト
- エクセルで有効桁を指定して丸めることは出来る?
excelで普通に四捨五入をするとなると 「ROUND」などで小数点以下の桁数を指定しますよね。 そうではなく、有効桁数3桁で四捨五入…例えば、 0.1234ならば0.123 1.234ならば1.23 12.34ならば12.3 123.4ならば123…のように 数字を四捨五入させる関数(?)はあるのでしょうか。
- ベストアンサー
- オフィス系ソフト
- 有効数字の桁数が違う場合のプラス1桁の出し方
有効数字の桁数がそろわない場合の掛け算・割り算は途中の計算は有効数字の桁数の最小のものプラス1桁で計算し、最後に四捨五入で有効数字の桁数の最小のものにあわせると書いてあります。次の場合、どちらが適当な計算といえるのでしょうか。( )内は最終的に有効数字の桁数の最小のものに四捨五入して桁数を合わせて出した答えです。 ア.2.5×1.456=2.5×1.45 (3.6) イ.2.5×1.456=2.5×1.46 (3.7) また、次の場合はどうでしょうか。(最終的に有効数字の桁数は2桁とします) ウ.x^2=2.456 x=√2.45 (x=1.6) エ.x^2=2.456 x=√2.46 (x=1.7) 結局、最終的な有効数字の桁数の次の次の位の数字を四捨五入すべきなのかそれとも意味があまりないので捨てるべきなのか分らないのです。 悩んでいますので、どなたか教えていただけないでしょうか。よろしくお願いいたします。
- ベストアンサー
- 物理学
- エクセルの桁数切り上げ
エクセルの桁数を四捨五入するのは、 関数でどのようにすればよいのでしょうか? 具体的には4桁を2桁にする場合、 3073 → 31 2736 → 27 書式設定のユーザー定義を見たのですが、#の意味がよくわからなかったです。 どなたか詳しい方よろしくお願いいたします。
- ベストアンサー
- その他MS Office製品
- エクセルでの桁数の違う小数の表示方法?
エクセルでの小数点以下の桁数が異なる数字で四捨五入して連続する0以外の数字が2桁までに表示する方法を教えてほしいのですが・・・ 説明の仕方がわかりずらいので例をあげると、 1.25なら1.3 0.2274なら0.23 0.000304なら0.0003 となるようにしたいのですが、それぞれ桁数が違うので一度にできません。A4サイズで100以上あるので最初に設定するか、範囲指定をすべての数字にして一度で変換するする方法がよいのですが・・・ よろしくおねがいします。
- ベストアンサー
- オフィス系ソフト
- 有効数字と桁数について
有効数字と数字の桁数について、教えていただきたいことがあります。 大学で先生が測ってきた環境調査データの整理をしているのですが、ある濃度について、小数点以下が2桁のものと3桁のものが混在していました。 例えば、このような感じです。 0.23 mg/L 0.083 mg/L 違和感を感じたので、「0.220 mg/Lとしたり、四捨五入して0.08mg/Lとしたりしなくていいのですか?」と聞いたところ、「どちらも、有効数字2桁だから問題ない」と言われました。 0.23とは本来、0.225~0.235までの範囲の総称を0.22と言い、0.083とは本来、0.0825~0.0835までの範囲の総称を言うそうですが、そもそも、どちらの数字も同じ分析器機器で測定可能ということでした。ということは、基本的には1/1000の位までは正確に測れるんだと思います。ということは、0.23という数字についても小数点以下3桁で書くのが正しいのではないかと思ったのですが、こういう考えはダメでしょうか? また、別の項目では、 0.05 mg/L 0.21 mg/L という2つの数字が出てきました。 この場合、上の有効数字は1桁で、下の有効数字は2桁と考えられ、桁があってないのではないかと思います。 これは問題ないのでしょうか? 教えていただきたくよろしくお願いします。
- 締切済み
- 数学・算数
- Accessで小数点以下の桁数を・・?
教えてください。 Accessで小数点以下の桁数を表示したいのですが、プロパティで小数点以下の桁数を表示することができるのですが、実際に入力すると値が四捨五入されてしまい小数点以下の桁数を入力することができません。どうしたらよいのでしょうか?
- 締切済み
- オフィス系ソフト
- 化学での有効数字について(途中計算)
以下についてアドバイスいただけると助かります。 有効数字について 和・差について・・・小数点以下の桁数が少ない方に合わせる 積・商について・・・桁数が少ない方に合わせる については、分かったのですが、有効数字3桁での指定があるときに 19.1、24.5889、0.12553、3.2952の4つの数にたいして ○和を筆算で求める場合 小数第1位に合わせるために、 19.1→19.10(小数第2位表示) 24.5889→24.58(小数第3位切り捨て) 0.12553→0.12(小数第3位切り捨て) 3.2952→3.29(小数第3位切り捨て) として和を求め、小数第1位(小数第2位四捨五入)にする ○積を筆算で求める場合 有効数字3桁に合わせるために、 19.1→19.10(有効数字4桁表示) 24.5889→24.58(5桁目切り捨て) 0.12553→0.1255(5桁目切り捨て) 3.2952→3.295(5桁目切り捨て) として積を求め、有効数字を3桁(4桁目は四捨五入)にする と思っています。 1.このやり方で大学受験では問題ないのでしょうか。 特に気になっているのは、計算をする前の丸め方(すべて切り捨てにしているところ)です。 2.計算ステップがいくつもあり、一度に計算ができない場合、そのステップ毎に得られる数の 丸め方は切り捨て・四捨五入のどちらがよいのでしょうか。 よろしくお願いします。
- ベストアンサー
- 化学
お礼
alice_44様 早々に御回答いただきましてありがとうございました。 出展は申し上げられません。申し訳ありません。 ようするに有意桁数は、公知規格にtraceableできないということなのですね。