有効数字は自分で決めれるのか

質問

こんにちは有効数字について分からないことがあります。
例えば実験で電流が０．０５Aで電圧が０．１０Vだったら有効数字は１桁と２桁だから１桁として抵抗は２Ωですよね？

それで電流を０．５×１０＾（-１）Aで電圧を１．０×１０＾（-１）とすれば有効数字は２桁と２桁だから２桁として抵抗は２．０Ωになるのでしょうか？

実際に次のようになってしまったんですがいいのでしょうか？

電圧０．０９Vで電流０．０３０Aだから抵抗は２Ω
電圧０．１２vで電流０．０３０Aだから抵抗は４．０Ω

同じ測定結果でも有効数字が違ってしまいました。ここで０．０９を０．９×１０＾（－１）とかければ２．０Ωになると思うのですがこんなことをしてもよろしいのでしょうか？質問の内容が伝わりにくいかもしれませんがご回答よろしくお願いします！

回答No.6

akkey-2006 · ベストアンサー

電圧の測定器に０．１Ｖ単位の目盛りがついていて、そのひとつ下の位である０．０１Ｖまで目分量で読んだということですよね。

有効数字と位取りを分けて考えると、

電圧について
０．０９Ｖ　→　９×１０＾（－２）
０．１２Ｖ　→１．２×１０＾（－１）
ですよね。
０．０９Ｖのほうは有効数字１桁しかないし、
０．１２Ｖのほうは有効数字２桁あることに
なりますよね。

と、いうわけで＃５の方のようになると思います。

よって、有効数字に違いがあるのはやむをえないでしょうが、できればもっと感度・精度のよいところで測定して電流と同じ以上の有効数字が確保できればより好ましい測定になるのではないかと思います。

お礼

回答ありがとうございます。抵抗の値が１桁になったり２桁になったりするのは仕方がないということですね。参考になりました！

回答No.7

a-saitoh

有効数字は、誤差を簡便に扱うためのものです。たとえば、「有効数字1桁で　0.09V」といえば、「真の電圧は　0.09±0.005Vの範囲のどこかである」のことだと考えて良いと思います。

今回の場合は　0.1刻みの目盛りを目分量で読んだので、0.09±0.01Vくらいが精度として期待できるところでしょう。実際の精度はもっと悪いです。というのも、人間が目で読み取る精度の他にそもそも計器の針の指す位置の誤差もあるからです。
0.12Vと目分量で読んだ場合も、0.12±0.01Vといった、同じ誤差と考えられます。
なので、0.09Vという読みは本当は有効数字は1桁に少し及ばないし、0.12Vという読みは本当は有効数字は2桁はないのです。とはいえ、「有効数字が　0.8桁」とか「1.3桁」というような端数は無いので、1桁か2桁か
どちらかであることにして計算するしかないですが。

計器の最小目盛りで1目盛りに満たないところを差している針を読み取ること自体、計測としては失敗しています。せめてフルスケールの半分よりは上を針が指しているレンジを使うべきでした。

お礼

回答ありがとうございます。もうすこし精密な計器で計測すればよりよい結果がでたかもしれませんね。参考になりました！

回答No.5

Ichitsubo

> ０．５×１０＾（-１）A ～とすれば有効数字は２桁

それでも有効数字は1桁ですが・・・

お礼

すいません勘違いをしていました。この場合も有効数字は１桁ですね。ありがとうございました。

回答No.4

fjnobu

目分量で０．０９Vならば、０，０９０Vと考えて差し支え有りません。
尚、０，０９Vで０．０３０Aならば、３．０Ωですね。
さらに、０，３０Aの最後の０はどのようにして出たのですか？アナログのメータですか？デジタルメータですか？
いずれのメータでも、精度または級が表示されている筈で、測定器の精度で有効数字が決まります。

補足

回答ありがとうございます。最小単位が０．１Vでその下の１０分の１のくらいを目分量で読み取ったものが０．０９Vなのですが、それを０．０９０Vとすると読みすぎているような気がするのですがよろしいのでしょうか？

回答No.3

googooguuguu

http://www.gs.niigata-u.ac.jp/~kimlab/lecture/numerical/signif.html
http://kuchem.kyoto-u.ac.jp/bukka/member/yyosuke/uebung/sig_digit.htm
ＪＩＳ
http://www.okudaira-pipe.co.jp/hinmoku/z8401.html

お礼

参考にさせてもらいます。ありがとうございました！

回答No.2

Willyt

>電圧０．０９Vで電流０．０３０Aだから抵抗は２Ω
>電圧０．１２vで電流０．０３０Aだから抵抗は４．０Ω
　上記の０．０９Ｖは有効数字が一桁なのか、二桁なのか、判定がつきません。ですから、計算結果を何桁とればいいのかを決められません。有効数字をはっきりわかるようにするには９＊１０＾ー２なのか、９．０＊１０＾－２のように書かなければなりません。

お礼

ありがとうございました。

回答No.1

noname#21649

測定精度は？

お礼

ありがとうございました。

補足

測定精度というのがどういうものなのかはわかりませんが、０．０９Vというのは最小目盛りが０．１Vでその下のくらいを目分量で読み取ったものが０．０９Vなのですが