• 締切済み

有効数字について

0.0001gまで測定できるはかりで秤量して得た数値のみを使って計算を行なった場合は小数点以下四桁までが有効ということでいいのでしょうか。 上記のはかりを用いて秤量した場合で、たとえば  2.3345gと10.2325g という値が得られたとして、これら二つの値の有効数字は違うのでしょうか。何回も有効数字について書かれたものは見ているのですが、いまいちよくわからないので教えてください。

  • 化学
  • 回答数1
  • ありがとう数0

みんなの回答

  • sanori
  • ベストアンサー率48% (5664/11798)
回答No.1

こんばんは。 >>>0.0001gまで測定できるはかりで秤量して得た数値のみを使って計算を行なった場合は小数点以下四桁までが有効ということでいいのでしょうか。 0.0001の精度で測れるのと、0.0001の位まで表示されることとは違います。 前者であれば、小数第4位(小数点以下四桁)までが有効となります。 >>> 上記のはかりを用いて秤量した場合で、たとえば 2.3345gと10.2325g という値が得られたとして、これら二つの値の有効数字は違うのでしょうか。 当然、有効数字の桁数は異なります。 精度(小数第何位まで有効か)は同じです。 掛け算・割り算では、有効数字が少ないほうに合わせますが、 足し算・引き算では精度が悪いほう(小数点以下の桁数が少ないほう)に合わせます。 以上、ご参考になりましたら幸いです。

関連するQ&A

  • パーセントの計算での有効数字について

    計算を2、3回経て、パーセントの数値を算出したいと思います。 ただ、小数点第2位(%)という細かい数値で出さなければなりません。 そこでお聞きしたいことが2つあります。 (1)その場合、パーセントにする前(×100する前)の数値は有効数字4桁 その4桁の数値を出すための計算は全て有効数字5桁で行う、という事でいいのでしょうか? (2)手計算で有効数字5桁の計算を行うとなると、かなり大変です。 これを解決する方法はないでしょうか? (通常の電卓は使用できますが、Excel等は使用しない前提で) よろしくお願いいたします。

  • 測定結果と有効数字

    0.1 gまで測定できる秤を使用しています. 10 g以下のものを測定した結果は有効数字2桁で,10 g以上100 g以下のものを測定した結果は有効数字3桁ということでよろしいのでしょうか. 同じ測りなのに有効桁が異なるというのはどうかなと思い,扱いが気になります. 工学系に詳しい方教えて下さい.

  • 有効数字について

    最小二乗法の計算をするに当たって有効数字を考えています。もしx=5.00という値が得られたとすると、x^2を考えるとき、やはり5.00×5.00=25.0(3桁)とすべきなのでしょうか?というのも、他のx^2の値が小数点以下第2位まで得られているので、それらを足し算すると小数点以下が第1位までとなってしまうのです。 知識不足なもので恐縮ですがよろしくお願いします。

  • エクセル(Excel)で、数値を一定の有効数字で表示したいのですが…

    エクセル(Excel)の書式設定の表示形式では数値を選択すると、小数点以下の桁数を揃えることができますが、同じ感覚で有効数字を一定にして表示させるにはどんな方法があるでしょうか? 例えば、0.01234、0.1234、1.1234、11.1234、111.1234という五つの値を、有効数字3桁を指定して表示して、順に0.0123、0.123、1.12、11.1、111という風に自動的に表示してくれる表示形式、あるいは関数を探しています。 事務計算で小数点以下何桁というのが重要であるように、技術計算ではこのように有効数字を揃えたい場合が多いと思いますので、どなたかご存じの方、お教えください。 なお、指数形式では似たような結果になりますが、わかりにくい表示なので使いたくありません。 よろしくお願いいたします。

  • 有効数字について

    有効数字について 電気系の実験において、有効数字がそれぞれI(1ケタ)、V(4~5ケタ)という測定値を得たとします。 このとき、他に有効数字がL(2ケタ)、S(2ケタ)という数値を用いて、 ρ=(S/L)*(V/I) という計算を行ったとします。 この時、ρの有効数字も、有効数字が最小ケタ(1ケタ)のIに合わせて、1ケタとして最終的に値を出せば良いのでしょうか? また、測定結果をまとめた表を書く際、I,V,ρの値をそれぞれ示したいのですが、 この時には、「有効数字をそろえて」Vの実際の測定値も有効数字1ケタに丸めなくてはいけないのでしょうか? Vの値はそのまま表に記載した方がいいのでしょうか? 「有効数字をそろえて」と書いたのは、「有効数字をそろえる」という言葉の意味がイマイチ理解し切れていないためです。 あまり上手い日本語で書けていないかもしれませんが、 ご教授のほど、よろしくお願いします。

  • 日本薬局方の数字の丸め方についての説明

    http://www.nihs.go.jp/mhlw/jouhou/jp/jp15_genan_sakusei_youryou.pdf 上記URLの2.2.3の項目について説明するのですが 定量を例に説明しようと思っているのですが 規格値が98.5%~101.5%の場合 小数点以下一桁目までが有効数字なので 計算には小数点以下二桁目までを計算に使うといった 説明でいいのでしょうか? 実例として,次の計算結果を得られた場合 (1)100.453456 (2)100.789101 (3)100.698765 (1)100.45,(2)100.78,(3)100.69として ((1)+(2)+(3))/3=100.64 答え=100.6%という考え方(やり方)であってますか?

  • 有効数字とはなんですか?

    中学生にもわかるように説明してくだされば幸いです。 色々調べたのですが、よくわからなくて、、 以下の認識で合ってますか? 認識:近似値や測定値を表す数字のうち,実用上有意義な桁数だけとった数字。 また、「有効桁数」とは、有効数字の桁数のこと。 例えば、1.2345という数字があったとしたら、実用上有意義な桁数が3なら、有効数字は1.23で、有効桁数は3桁。 また、0の処理については以下の通り。 0ではない数字に挟まれた0は有効である。例えば、 60.8 は有効数字3桁である。 39008 は有効数字5桁である。 0ではない数字より前に0がある場合、その0は有効ではない。例えば、 0.093827 は有効数字5桁である。 0.0008 は有効数字1桁である。 0.012 は有効数字2桁である。 小数点より右にある0は有効である。例えば、 35.00 は有効数字4桁である。 8 000.000000 は有効数字10桁である。

  • JISに従った数字の丸め方、これで合ってますか?

    よろしくお願いいたします。 JISに従った数字を丸め方、これで合っているでしょうか? 【1】1.385を小数点以下2桁に→1.38 【2】1.3845を小数点以下2桁に→1.38 【3】1.2501を有効数字2桁に→1.3 【4】0.9876を有効数字3桁に→0.987 もし間違っていたらご指摘ください。

  • 有効数字が分からない

    問題集を解いていて、 「炭素分子1gと反応する物質の質量を求めよ」といった内容の問題で、 文章中の数値の有効数字は3桁ですが、「炭素分子1g」と書いてあったので、 有効数字は少ないほうに合わせるべきだから有効数字は1桁になるはずだと僕は思うんですが、 回答は有効数字3桁でした。 これはどういうことでしょうか? 問題集がアバウトなのでしょうか? それともこの場合1g=1.0000…gというルールがあるのでしょうか? また違う問題で、文章中の有効数字は3桁で、回答を%で示せという問題で、回答だと小数点未満は切り捨てて整数値で書いてありました。 (整数値で書け、といった注意書きはありません) どうすればよいのでしょうか? これらの場合、高校のテストの場合どう回答すればよいですか?

  • 実験標準偏差について

    具体的に測定した値が1.85、実験標準偏差は0.006となりました。実験標準偏差の有効数字の桁が1桁の場合はそのままであるとならったので0.006のままでいいと思うのですが、それだと測定した値と小数点以下の桁が異なります。(それぞれの最下位の位をそろえると習いました)測定した値の有効数字は3桁であったので1.850にするわけにもいかないと思います。この場合どう表記するべきなのでしょうか。よろしくお願いします。