計測器の分解能についての疑問
- ある製品の計測器の分解能が0.25とされていますが、なぜ結果が0.25の倍数になっていないのでしょうか？
- また、なぜ計測結果がコンマ100分代まで表示されているのでしょうか？
- 分解能を上回っている場合、結果を丸めるべきでしょうか？
- 締切済み
分解能についての考え方
標記の件ですが、ある製品の形状をN=25測定して結果が79.774、75.102、76.899、74.615・・・というデジタル表示結果になりました。 計測器の分解能が0.25と記してあるのですが、なぜ結果が0.25の倍数になっていないのでしょうか？ またこの結果がなぜコンマ100分代まで表示されているのでしょうか？ 分解能を上回っていると思いますが、このまま使っていいという方もいます。 この結果は丸めていいでしょうか。 そもそもの分解能の認識が違うのか教えていただけませんでしょうか？
- その他（品質管理）
- 回答数5
- ありがとう数5
- みんなの回答 （5）
- 専門家の回答
みんなの回答
2進数の桁落ちっぽい http://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q1216625577 デジタルにはよくあること 基本的にデジタルは切捨て >>この結果は丸めていいでしょうか。 鉛筆をなめればいい(導きやすい方向へ) 結局統計的に見れば結果は一緒(誤差範囲)
> 計測器の分解能が0.25と記してある と、 > ある製品の形状をN=25測定して結果が79.774、75.102、76.899、74.615、…という > デジタル表示結果 から、上述の0.25は 0.25μm であり、その下述の例えば79.774は 79.774mmと推測します。 そして、測定結果の0.01mmである1/2(ハーフ)ではなく、1/4(クフォーター)ちである、分解能 が0.25μmを切り上げ＆切り捨てし、数値化している測定器であると記しているのでしょう。 小生なら、そのように読み取れます。 尚、推測なので、単位が適切でないかもしれませんが、測定値に対して、分解能の単位は 1/1000であると考えます。 以上、 信頼性の向上のために、測定精度値の例えば0.01mmである1/2(ハーフ)ではなく、 1/4(クフォーター)値を、分解能(例えば0.25μm)としている記載だと、納得できますよね。 岩こと、iwanaiは、前述の記載をiwanai(書かない)から、今一説得力がないんだよ。 そこんとこのフォーローなんだよ。（上から目線だから、言葉足らずになるんだよな）
お礼
おっしゃられている通りです。 いろんな方の意見を聞いて、それについて付け足しを皆さんがやってくれるのでこちらはとても勉強になります。ありがとうございます。
分解能0.25の計測器とは一体何ですか? 眼で読む指しでも0.5目盛が刻まれるし、ノギスは0.01、旧式アナログノギスでも0.05、、想像が及びません。0.25ミクロンの間違いでは? 厳密解釈は違うが分解能イコール表示最低値。 アナログノギスは基準スケールが粗くとも補間する副尺を備える。更に目分量を活かせば実質分解能は上がり、デジタルはそれを中で行う。 後出しアホターが まねたー www
お礼
単位ミクロンです。今回は精度を見なくてはいけないということでした。 いろいろ情報足らずですいません。
まず分解能が0.25という意味は 測った値が0.25以上違えば、対象物の寸法も異なるという意味です。 問題は、計測で大切なのは「精度」であって分解能ではないということ つまり精度が判らなければ、どこの桁まで信用できるかがわかりません。 精度は通常分解能より大きい値になり 質問者さんの説明の中では精度が示されていませんから 誤差は１以上である可能性もあります。 その場合コンマ以下は寸法値は無意味で かろうじて違う寸法という事は判る程度です。
お礼
tigerさんのおっしゃる通り「精度」を見なければいけないという回答をメーカからも教えていただきました。精度を見てみたら起こりうる範囲でした。ありがとうございます。
＞計測器の分解能が0.25と記してあるのですが、 ＞なぜ結果が0.25の倍数になっていないのでしょうか？ ＞またこの結果がなぜコンマ100分代まで表示されているのでしょうか？ ご質問者さんに逆にお尋ねします。 今回のお問い合わせのような内容は、計測器のメーカーに問い合わせること が適切と思いませんか？ 岡目八目の外野のメンバーに期待することがあれば追記お願いします。 計測器のシステム図（特に、A/Dコンバータの前後をきちんと記載したもの） 及びデータ処理のフローチャートなどがあれば、なぜお問い合わせのような 結果となるか説明できるかもしれません。 n=25の結果すべてをアップして頂ければ、データ処理について推論を立てる ことができるかもしれません。 ＞ある製品の形状をN=25測定して結果が79.774、75.102、76.899、74.615 回答(3)さんがご指摘になっていますが、数値79.774、75.102・・・に 対応する測定量目及び単位は何でしょうか？ mm単位で表した長さ寸法とは違うと思います。
お礼
もうしわけございません。計測メーカーに直接問い合わせてみました。 いろんな方の意見を聞きたかったのでここのサイトを利用させていただきました。
関連するQ&A
- 実験装置の分解能評価について
分解能の評価について質問があります。 例えば、ある装置である物理量を測定したとします（長さや重さ等何でも良いです）。 その結果、値が得られます。 たくさんのモノを測定して、たくさん値が得られたとすると、 この値から装置自身の分解能を評価することは可能でしょうか？ よろしくお願いします。
- 締切済み
- 物理学
- 水平分解能とサンプリング間隔
初めて質問させていただきます。 現在、走査型白色干渉顕微鏡で表面微細形状の測定を行っています。 顕微鏡システムの特性として、ある倍率の対物レンズでは、サンプリング間隔0.2マイクロメートルと記載されているのですが、水平分解能0.64マイクロメートルとも記載されています。 サンプリング間隔とは必ずしも分解能とは違うのでしょうか？ そうであれば、測定して得られるデータにおいて、0.2マイクロメートル離れたピクセル間では独立であるとはいえないのでしょうか？ よろしくお願いします。
- ベストアンサー
- 物理学
- 計測器のノイズフロアと分解能の関係
計測器のノイズフロアと分解能の関係について教えてください。 分解能はノイズに対して最小でどのくらいの大きさになるのでしょうか？ ノイズフロアというのは計測器に対するセンサーからの入力がゼロの場合でも常に存在する自己ノイズのことで、つまり何も測ってなくても常にそのくらいの値を検知しています。 https://edn.itmedia.co.jp/edn/articles/1402/13/news013.html https://www.keyence.co.jp/ss/products/recorder/lab/voltage/thinking.jsp 一方、分解能は読み値の最小間隔です。 例えばAD変換機の最小ビット当たりの読み値の変化(係数)が1m/sec^2であれば分解能は1m/sec^2というと思います。 しかし、その測定器のノイズフロアが周波数スペクトルで見て1m/sec^2だった場合、センサーから1m/sec^2の入力があったときに測定値は0～2m/sec^2の間になります。つまり0m/sec^2と2m/sec^2の区別はつかないことになります。 1)こういうのを「分解能が1m/sec^2」と言って良いのでしょうか？ 2)例えば1m/sec^2の入力があったときに測定値は0～2m/sec^2、4m/sec^2の入力があったときに測定値は3～5m/sec^2になるわけだから、1m/sec^2と4m/sec^2の区別はつくことになります。つまり分解能は3m/sec^2なのでしょうか？ 3)仮に入力が0m/sec^2から3m/sec^2に上がった場合、その測定値は2～4m/sec^2になるので最大誤差33％という事になります。読み値が一目盛り上がった値(＝分解能あたり)の誤差が3割以上あるというのはとても大きい気がします。例えば分解能は一般に誤差何％以内(例えば1割以内)とか常識的な線はあるんでしょうか？ つまり読み値の10倍(ノイズフロアが1m/sec^2だった場合、分解能は10m/sec^2)とかでしょうか？ 誤差にもいろんなものがありますが、ここではノイズフロアだけを考えます。例えばゼロ点のドリフトなんかは考えないことにします。 (ノイズフロアが1m/sec^2でも温度ドリフト、帯電ドリフトが100m/sec^2なんてことはよくあります。測定前にアースやゼロ点補正すればいい事ではあります)
- 締切済み
- 測定・分析
- レーダー 分解能の単位
レーダーの仕様をみたところ分解能5000Mとかいった単位が表示されていました。 デジタル画像のpixel とかD dpi とかいう単位ならまだイメージできるのですが単にメートルで表示されるとよくわかりません。この単位の基本的な考え方についてご教示ください。
- ベストアンサー
- 物理学
- 日本薬局方の粒径分解能について
日本薬局方 一般試験法 6.07 注射剤の不溶性微粒子試験法 第1法 光遮蔽粒子計測法 に定める校正の粒径分解能の項目に 試験粒径と総計数の16％及び84％計数する閾値粒径との差が10％以内であること。 とあるのですが、どういう式でこの結果をもとめればいいのでしょうか？ ちなみに粒径分解能：7.9％となる場合、 16％計数する閾値粒径：11.224（μｍ） 84％計数する閾値粒径：9.972（μｍ） だそうです。 どなたかご存知でしたら教えてください。
- 締切済み
- 化学
- 分解能とVGA解像度の違い。
こんばんは。 GeForce GTX560で、WQHD（ 2,560 x 1,440）は、表示可能ですか？ http://www.nvidia.co.jp/object/product-geforce-gtx-560-jp.html 分解能の方は、クリアーしてますが、VGA解像度の方は、足りません。 最大デジタル分解能（2560x1600） と 最大VGA解像度（2048x1536） の違いがよくわかりません。（涙） できれば、WQHDを使いたいのですが。。。
- ベストアンサー
- ビデオカード
- 【放射線モニタリング】での統計学の問題です。
数学的に任意の数字の集合で『７』と『８』で始まる数値がやけに少ないとういのはあり得ますか？ 文科省 （http://www.mext.go.jp/a_menu/saigaijohou/syousai/1303723.htm）に掲載の 2011/03/11から2011/07/16までの放射線モニタリング結果を調べてみると、 『７』と『８』で始まる放射能測定結果が『139,354件』中『1.9％』と『0.7％』しかなく、 『３』と『４』で始まる放射能測定結果が『139,354件』中『21.5％』と『31.2％』もあるそうなのですけど このようなことって数学的にあり得ますか？ 任意の値をとる集合でやたら数字に偏りがあるようなのですが。。。 参考：【文部科学省】放射線モニタリング（計測結果）捏造疑惑？？？ 『１』、『７』、『８』で始まる放射能測定結果がやけに少なく、 『３』と『４』で始まる放射能測定結果がやたら多い！ http://d.hatena.ne.jp/chamuchamu/20110716/1310813276
- ベストアンサー
- 数学・算数
- 計測器の精度について質問です。 精度の中には、経時誤差の精度（Acc)
計測器の精度について質問です。 精度の中には、経時誤差の精度（Acc)と値の安定性（Sta)がありますが、その違いをもう少しわかりやすく教えていただけませんか？ また一般的に測定時に出た値に対して使うのはどちらでしょうか？ また、例えば精度がプラスマイナス１０μmの計測器の分解能が１μmという計測器の場合、分解能が１μm単位でも、精度が１０μmでプラスマイナス動くのであれば意味がないように感じますが。。。 業界の方にとってはくだらない質問かもしれませんが、ご教示よろしくお願いします。
- 締切済み
- 物理学
- 計測器の精度について質問です。 精度の中には、経時誤差の精度（Acc)
計測器の精度について質問です。 精度の中には、経時誤差の精度（Acc)と値の安定性（Sta)がありますが、その違いをもう少しわかりやすく教えていただけませんか？ また一般的に測定時に出た値に対して使うのはどちらでしょうか？ また、例えば精度がプラスマイナス１０μmの計測器の分解能が１μmという計測器の場合、分解能が１μm単位でも、精度が１０μmでプラスマイナス動くのであれば意味がないように感じますが。。。 業界の方にとってはくだらない質問かもしれませんが、ご教示よろしくお願いします。
- ベストアンサー
- 物理学
お礼
数値は切り上げではなく切り捨てを行うのが基本なんですか。 どっちにしているかはこちらかではわからないですよね。