• ベストアンサー

電子天秤のメモリ

 デジタル表示の電子天秤は測定限界以下の数字をどう処理しているのでしょうか?  例えば、15.559 gのものを測る際に、天秤のメモリが小数点以下第2位までだった場合、15.55と表示されるのでしょうか、それとも15.56と表示されるのでしょうか?  メーカーによって違ったりするのかもしれませんが、一般的にどちらの方法が使われているのかをご存知の方、教えてください。

  • CTAB
  • お礼率92% (115/124)
  • 化学
  • 回答数3
  • ありがとう数5

質問者が選んだベストアンサー

  • ベストアンサー
noname#160321
noname#160321
回答No.3

一般に「定義」からデジタル表示での最後の桁は1デジット上下するのが基本です。まずこれを先に覚えておいてください、つまり「揺らぎがなくてはならない」のです。 本来は15.555から15.56499999…の表示は15.56に、15.545から15.554999999…の表示は15.55に表示する「ことになっている」のです。 簡単にいうと四捨五入ですが、それと違うのは15.555付近のものをはかるとデジットが「頻繁に切り替わる」のが「正しい」ということです。

CTAB
質問者

お礼

あーなるほど、電子天秤で頻繁に表示が切り替わるのはそのためでしたか、勉強になりました。 詳しいご回答ありがとうございました。

その他の回答 (2)

noname#21649
noname#21649
回答No.2

メーカーによっては.JIS規格の四捨五入を使っている場合があります。メーカーによっては算術の四捨五入を使っている場合があります。 どちらを使っているかは.製造メーカーに聞いてみないとわかりません。

CTAB
質問者

お礼

ご回答ありがとうございました。

回答No.1

一般的には四捨五入です。

CTAB
質問者

お礼

ご回答ありがとうございました。

関連するQ&A

  • 電子天秤について

    電子天秤について 説明不足かもしれませんが, 電子天秤を使っている途中いきなり, 電源ボタンを押しても0.0000の表示がでなくなり, かわりに「AUTCAL」と点滅した表示があり,測定ができないのですが, なぜか分かる方いらっしゃいましたら回答お願いします.

  • 電子天秤と上皿天秤の違い&硬貨の材質

    誰か 電子天秤の数字は上皿天秤より何倍正確な質量が計れるか。 上皿天秤と電子天秤の異なる点は何か。(上皿天秤は―、電子天秤は―と答えてください) 硬貨の質量がそれぞれ違うのはどのような利点があるか。 硬貨の材質の特徴は何か。 このうちどれか一つでも分かる方は教えてください。

  • 電子天秤の計測値が減り続ける

    風洞を使って揚力の測定を行っているのですが(イメージは下図)、電子天秤の計測値が減り続けてついにはマイナスまで出てしまいます。問題点を教えていただけないでしょうか? ちなみに風洞内には整流器は入れています。

  • VB6で電子天秤で測った重量を1分ごとに記録したいです。

    前にも『VB6でPCと電子天秤をつなぎたいです』というタイトルで質問した者です。 みなさまのアドバイスのおかげでようやくPCと電子天秤をつなぐことができ、1秒に1回重量を測ることができるようになりました。 1秒間に1回というのは電子天秤のコマンドのなかに1秒間に1回というものがあったのでできましたが、できれば測定間隔を自由に変えることができるようにしたいです。 また、自分は『自動計測システムのためのVB6』という本を参考にして書いたのですが、この本だと計測したデータをテキストボックスに表示していてデータの取れる量が限られています。 直接HDにデータをためる方法はありませんでしょうか?? またまた超基本的なことで申し訳ありませんがどうか回答よろしくお願いします。

  • 格安電子天秤の使い勝手,精度,確度の情報

    趣味の鉱石収集で,岩石の比重を測定したいと思います. オークションで「電子天秤」を検索すると,0.01g 単位のものが1,000円前後で入手できそうです.学術用途ではなく,例えば「ヒスイ」と「チャート」の区別などに使いたいと思います.この程度の価格の商品で,実用になるのでしょうか?

  • 測定値の有効数字

    3つの異なる材料の密度を測定するために、まず材料の質量を電子天秤(0.01[g]まで測定できるもの)で測定しました。結果、0.52[g]、2.32[g]、0.60[g]となりました。ここで、0.52は有効数字が2桁、2.32は3桁、0.60が有効数字が2桁となります。この場合、有効数字を揃える(2桁か3桁)必要があるのかないのかどちらになるのでしょうか。お手数ですが、よろしくお願いします。

  • テスターのメモリの読み方

    テスターのメモリの読み方がいまいち分かりません。 電流を測ったのですがレンジを10Aに合わせると「0.24」と表示されます。ということは0.24Aですよね? で200mAに合わせると02.4と表示されます この小数点は何を基準にしてるのでしょうか? (0.24Aの場合、200mAで測定した場合240と表示されそうな気がするのですけど・・) また200mということは0.24Aだと測定領域をオーバーしてると思うのですが、なぜ測定できるのでしょうか? といいますか、なぜ200mAと半端なんでしょうか? 1000mAでいいような気がするのですが? 下手な文章で分かりにくいとは思いますが、回答御願いします

  • 有効数字について

    0.0001gまで測定できるはかりで秤量して得た数値のみを使って計算を行なった場合は小数点以下四桁までが有効ということでいいのでしょうか。 上記のはかりを用いて秤量した場合で、たとえば  2.3345gと10.2325g という値が得られたとして、これら二つの値の有効数字は違うのでしょうか。何回も有効数字について書かれたものは見ているのですが、いまいちよくわからないので教えてください。

  • 有効数字について

    実験で塩化鉄(III)六水和物を3.2g計り取るとあれば、小数点以下4桁まで計れる天秤なら3.2000gぴったり計る必要はないですよね? よろしくお願いいたします。

  • 分析の誤差の範囲は??

    10mlきざみの500mlのメスシリンダーの誤差の範囲はどのくらいですか? また、電子天秤の誤差の範囲はどのくらいですか?? (gで小数第4位まで表示される)