デジタルテスターの精度の計算方法

このQ&Aのポイント
  • デジタルテスターの精度を計算する方法について詳しく解説します。
  • 解説書に記述されている精度の計算方法と、通常の考え方の違いについて質問しています。
  • 説明をわかりやすくしていただけると助かります。
回答を見る
  • ベストアンサー

デジタルテスターの精度の計算方法

ある解説書に、 精度が±(0.7%rdg+3dgt)の場合 DC200 VOLTレンジで真値(標準電圧)100VOLTを測定した場合の精度の計算方法として、次のように書かれていましたが意味がわかりません。 →真値が100VOLT、レンジが200VOLTなので最終桁は0.1VOLTとなり、 100VOLT×(±0.8%)+0.1VOLT×(±0.8VOLT)=(±0.8VOLT)+(±0.8VOLT) =±0.9VOLTとなり、測定値(表示値)は100VOLT±0.9VOLTの範囲内である。 自分としては、単純に測定値が100VOLTの場合、0.7%を考慮して 誤差(精度)は、100VOLTの0.7%ぶんの7VOLT。 それにdgtの部分を更に追加した合計の7+3=10VOLTで 結果的に精度は、±10VOLTである、90~110VOLTが精度値だと思っていました。 しかし解説書では上記のように、そうではない書き方です。 自分の考え方は間違えているのでしょうか? わかりやすい説明で教えて頂ければありがたいです。 おわかりの方がいれば宜しくご回答お願い致します。

質問者が選んだベストアンサー

  • ベストアンサー
  • Trick_Q
  • ベストアンサー率45% (34/75)
回答No.1

質問者様も解説書も説明がおかしいので、正しく説明します。 条件 精度が±(0.7%rdg+3dgt) 測定レンジがDC200 VOLT で、100VOLTを測定した場合。 表示されている値が100.0VOLTだったとします。 rdg(リーディング誤差)は、 100.0×0.007=0.7VOLT となります。 ※もし、rdgがrdg(fs)と書いてあったら、フルスケールに対する誤差ですので、 レンジの200VOLTで計算します。 200×0.007=1.4VOLT dgt(デジット誤差)は、 表示されている最小桁が、この場合は少数第一位なので、 0.1×3dgt=0.3VOLT となります。 ※もし、表示されている値が100.00と少数第二位までしたら、 0.01×1×3dgt=0.03VOLT となります。 したがって、誤差は、この2つを足して、 0.7+0.3=1.0VOLT 誤差の範囲は、100.0±1.0VOLT となります。

juntaro73
質問者

補足

大変わかり易い説明、ありがとうございました。 ただ、、 ※もし、表示されている値が100.00と少数第二位までしたら、 0.01×1×3dgt=0.03VOLT となります。 の、×1はどういう意味なんでしょうか?  単純に0.01×3dgt=0.03ではダメなんでしょうか?? 申し訳ありませんが、もう少しだけ教えて下さい。

その他の回答 (1)

  • Trick_Q
  • ベストアンサー率45% (34/75)
回答No.2

>0.01×1×3dgt=0.03VOLT ×1は、書き間違えたようです。 ご指摘の通り不要です。 すみません。 

juntaro73
質問者

お礼

ご回答、ありがとうございました。 おかげでスッキリしました。

関連するQ&A

  • 測定者の精度管理について

    滴定測定の精度管理について質問させていただきます。 測定者の測定精度を管理したいと思うのですが、方法がよくわかりません。 測定結果に統一性をもたせるのを目的とした場合、真値のわかっている 試料液を測定し、測定者全員の測定値と比較をすればいいのだと思いますが、 真値のわかる試料液を準備できません。(計算で理論値であれば出すことは できますが、それが真値といえるのかがよくわかりません) 適当な試料液を測定者全員で測定し、測定値をあわせるのは難しいので しょうか? この場合、基準の決め方がわかりません。 全員で何度も繰り返し測定して真値に近づけるとすると、測定者の精度管理には なりませんよね? ご意見のほど、よろしくお願いいたします。

  • 温度計の精度の見方について。

    初めまして。温度計の精度の見方について質問します。 例えば http://www.edenki.co.jp/shop/shopdetail.html?brandcode=023003000138&search=center370&sort= のページでは、±(0.1% rdg+ 0.4℃) とあります。もし測定温度が10℃であれば、10×0,1+0.4=0.5℃の誤差がでる、ということでよろしいですか?

  • テスターの仕組みについて

    電圧、電流、抵抗を測定する際のテスター(デジタル)の仕組みを教えて下さい。また、測定レンジの間違いで起こる現象についてもご教授下さい。 仕組みで知りたい内容は、例えば電圧測定の際に測定端子にテスターをあててもショートしない理由などです。(当たり前かも知れませんが、導通レンジだとショートしますよね??) レンジの間違いで起こる現象については、下記のような場合だとどうなるのかが知りたいです。 ・DCレンジに合わせて、交流を測定した場合。 ・ACレンジに合わせて、直流を測定した場合。 ・コンセントに電流測定のレンジでテスターをあてた場合。 ・コンセントに導通レンジでテスターをあてた場合。  ※レンジの間違いで回路がショートした場合、ブレーカーは落ちるのでしょうか? 初歩的な質問ですが、テスターの仕組みや、間違った測定をした際に起こる現象を知っていれば、安心して測定が出来ると思ったので、質問しました。その他、測定時に気をつけなければいけない事もあれば教えて下さい。宜しくお願いします。 ○テスターについての分かりやすい書籍ってないのでしょうか??

  • 計器等の精度について

    計測器の精度について、いくつかご質問です。 1)デジタルマルチメータなどのカタログで、「確度0.5%rdg+1digit」のような表記を見るのですが、これはどういう意味ですか? 2)たとえば、精度0.5%のメータ(電圧計等)を校正しようとした場合、そのメータに電圧を印加する電圧発生器は、最低でもどれくらいの精度が必要だと考えればよいですか? 3)電圧計と電流計の読みから有効電力を算出しようとした場合、それぞれの計器の精度が、0.5%だとすると、結果として算出した電力は、何%の精度と考えればよいのでしょうか? いずれも基本的なことなのですが、よくわかっていません。 宜しくお願いします。

  • 測定値と有効数字

    目盛りのついた測定機器を用いて、測定値を求めた場合の有効数字の考え方がよく分からなくて困っております。例えば、以下のような場合ではどのように有効数字を取ればいいのでしょうか? 例)ノギスを用いて(最小目盛り0.1)2つの試験片の長さLを測定し、測定値を用いてX=L×3.14の計算を行う。 <試験片a> L : 1.12 <試験片b> L : 11.24 この場合 aの有効数字3桁で1.115から1.125の中に真値あり(誤差±0.05) bの有効数字4桁で11.235から11.245の中に真値あり(誤差±0.05) と考え、最終的に計算式に代入すると <a> X=1.12×3.14=3.5168=3.52 ← 有効数字3桁で3.515から3.525の中に真値(誤差±0.05) <b> X=11.24×3.14=35.2936=35.29 ← 有効数字4桁で35.285から35.295の中に真値(誤差±0.005) として良いのでしょうか?同じ測定機器から求めた値にも関わらず、掛け算を行ってしまうと、測定誤差が異なってくるのに違和感を感じます。 回答よろしくお願いします。

  • テスターの選び方について教えて下さい。

    直流電流の測れるクランプメーターを探しております。 例えばですが、測定レンジが、DC10.00A/100.0A という仕様になっていた場合、20Aの電流は測れないのでしょうか? レンジ100.0Aがあるので、小数点一桁表示なら、当然図れると思いましたが、OLの表示が出て測れませんでした。 メーカーのホームページや取説を見ても、そこに関しては書かれていません、教えてくれる人も周りにいません。 どうか、よろしくお願い致します。

  • 精度の定め方

    測定値の誤差の範囲を0.2mgとした時に、期待される精度とはどのように考えればよいのでしょうか? 測定値をAとした場合、A÷(A±0.2mg)と考えた場合が期待される精度(%)と考えたのですが…違うような気がして。 よくわからない質問ですみません!

  • テスターの使い方

    電池の電圧測定について教えて下さい。満充電で5Vくらいのリチウムイオン電池なのですが、テスターを電圧測定(MAX20Vレンジ)に切り替えて両極に端子をあてたら電池が壊れたりショートしたりしますか? 電圧が低いと思って、上記のやり方で測ったら4.3Vしかありませんでした。仕方がないので再度充電して再測定したら0.9Vしあありませんでした。さらに充電したら電池が温まるようになったので、中でショートでもしてしまったのだと思います。でも、自分で単3のENELOOPや100均の充電池をたくさん使っていてさんざん電圧を測定していますが、その同じテスターで同じ方法で測定して今回のような経験はありません。 なんせ中学の技術家庭科で習った知識しかありませんので困惑しています。その時に電流測定だけは気をつけろと習った覚えがあります。しかし実際には電池の電圧測定以外したことがありませんので、テスターは生まれてこの方電圧測定(MAX20Vレンジ)しか使った事がありません。

  • アナログテスタによる交流・直流の判別

    電圧もAC/DCの種別の不明な回路があるとき,アナログ テスタでどう測定すればいいのでしょうか? ・AC回路をDCレンジで測れば0V ・DC回路をACレンジで測れば2倍の電圧 というのは実験からもわかるのですが,実践として現場 でどういう手順で正規の電圧を判断すればいいかは わかりません。 何かテクニックのようなものがあれば,ご教示頂きたく 存じます。 ついでに,なぜ2倍の電圧となるか?についても, できれば合わせてご教示下さい。 宜しくお願い致します。

  • ガスの精度について

    ガスを測定する機器での精度と分解能に付いて質問します。 測定分解能 ±0.02% 直線性 ±1%FS以内(最大レンジ) 再現性 ±1%FS以内(最大レンジ) の機器仕様です。 測定範囲を0~50%とした場合の「精度」と言われる値は幾つになるのでしょうか?