- 締切済み
有効桁数の決め方
有効桁数の決め方について質問です。 実際の測定結果においての有効桁数の決め方について困っています。 あるシステム(電源電圧3.0V)に±1mVの誤差をもった電圧を入力したとき、利得と位相の有効桁数は何桁になるのでしょうか？
- smash_june
- お礼率61% (8/13)
- 科学
- 回答数3
- ありがとう数7
- みんなの回答 （3）
- 専門家の回答
みんなの回答
- Trick_Q
- ベストアンサー率45% (34/75)
＞有効桁数6桁の測定器での測定データの有効桁数は6桁でよろしいのでしょうか？ 必ずしもそうなりません。 何の測定器なのか分かりませんが、例えば、６桁表示のデジタルマルチメータで、rdg誤差が±0.02%だったとします。（dgtは省略） 電圧２Vを測定して、表示が2.00000とぴったりになったとしても、 rdg誤差があるので、測定の範囲は、1.99960～2.00040となるので、どう見ても6桁ではないですよね。 また、ちょうど2.00000としましたが、実際の表示は、 2.00025、1.99987、2.00014、・・・ という具合に最後の何桁かが不安定に動いているかもしれません。 これも有効数字は、6桁ではないですね。
- 中京区 桑原町（@l4330）
- ベストアンサー率22% (4373/19604)
有効桁数が小数第二位・・・・そんな物は存在しません 100000000000000000000000.99 これでも小数第二位ですがこんな桁で測定できる測定器はありません 普通の測定器は有効桁6桁くらいでしょう http://www.yokogawa.co.jp/tm/Bu/7560/index.htm 有効桁について勘違いされてる様に思いますが 1234.56・・・6桁 0.123456・・・6桁 123456・・・6桁 12.3456・・・6桁
- 中京区 桑原町（@l4330）
- ベストアンサー率22% (4373/19604)
測定器の持つ有効桁に依存します
お礼
ご回答ありがとうございます。 測定器の持つ有効桁数が小数第二位までだと、 どうなるのでしょうか？
関連するQ&A
- 有効桁数について
ある測定値７５．８８と測定値ではない任意の数１５などを掛け合わしたとき 電卓でこの計算をすると１１３８．２となります これは掛け算なので有効桁数は演算における実数の有効桁数が一番少ないもので決まるので、７５．８８の有効桁数４桁をつかって１１３８とするのが正しいのでしょうか？ それとも（測定値）×（測定値ではない値）のときは有効桁数は考慮しないで１１３８．２（１１３８．２０？）とした方が良いのでしょうか？ １５×７５．８８とは７５．８８を１５回足すことなので、１５回足し算した場合は、１１３８．２０が有効数字の扱い方としては正しいですよね？ 大変困っています・・・ 有効数字の扱い方はどうすればよいか教えてください、あまりにも小さい誤差は気にしないとかではなく、有効数字の扱い方はどうすればいいかを教えて欲しいです。
- 締切済み
- 物理学
- 有効桁数について
ある数値を５回測定したとします A 5.039 B 5.075 C 5.092 D 5.064 E 5.058 有効桁数はすべて４桁ですよね？ 次にA～Eの平均を取ると (A+B+C+D+E)/5=5.0656 と関数電卓で結果がでますが、４桁に丸めて5.066とすれば有効桁数の扱い方としては問題ないですか？ そしてA～Eの平均の２乗をするときは、上記の平均を有効桁数４桁に丸めた5.066を２乗して (5.066)^2=25.664356 となり、そして5.066の有効桁数４桁に合わして25.66とすればいいのでしょうか？ それとも平均の値を４桁に丸める前の電卓で出た値のまま２乗した後、最終的に４桁に丸めるのがいいのでしょうか？この数値だとどちらでやっても４桁にした値は変わりませんが・・・ 有効桁数の扱い方で問題があったら教えてください、また平均の２乗を求めるときはどちらが正しいのでしょうか？ （平均の値の２乗は平均×平均なのだから平均の値を４桁にせず５桁として計算すると平均の２乗は有効桁数５桁と考えるので、やはり正しく平均の値を測定値の有効桁数４桁に丸めて出した平均の値を２乗する方が正しいですかね・・・） また、上記の平均の計算をしたときのよな、「5」などの数字の有効桁数は何桁ですか？１桁なんでしょうか？もし１桁なら割り算をしているので有効桁数はいちばん桁数の少ないものに合わせるので有効桁数１となると平均の値が「5」となりおかしいとおもうんですが・・・ 上記の平均を取ったときの「５」や、測定回数の数値や、測定していない数で１００で割れと書いてあったりしたときは、それらの数字の桁数も考えなければならないんでしょうか？ 読みづらい文章かもしれませんが、ご回答待っています。
- 締切済み
- その他（学問・教育）
- 有効桁数が大きくなると誤差が大きくなる
振り子のシミュレーションで、Δtを小さくしていくと相対誤差が大きくなるという結果が下のように出てしまいました。これはどのように結論付ければよいのでしょうか？有効数字はΔt=0.001で3桁、0.0001で4桁、 0.00001で5桁としました よろしくお願いします 理論値 1.6403 Δt 測定データ 相対誤差 0.001 1.64 0.0183 0.0001 1.643 0.1646 0.00001 1.6434 0.18899
- ベストアンサー
- 物理学
- オペアンプのオープン利得の測定方法
オペアンプのオープン利得の測定方法ってどうすればよろしいのでしょうか？ 現在、型番OP07CPのオペアンプICの単体測定を行っており、オフセット電圧やカットオフ周波数などを測定（オシロスコープを使って）により求め、ほぼデータシートどおりであることを確認しました。 しかし、オープン利得だけがどうしても測定できずに困っております。 私が考えた方法としては、まず１Vを1/1000000に分圧し、それを入力電圧にしようと試みました。 ですが、結果は出力が１５V（電源電圧）にはりついてしまいました。考えてみたのですが、オフセット電圧が増幅されているせいだと分かりました。 何かよい測定方法はないのでしょうか？ データシートに書いてあるので、必ず何らかの方法があると思うのですが…。
- ベストアンサー
- 物理学
- 交流電圧を直流電圧換算
電圧計で電池電圧3.5Vを測定する際、 測定ケーブルにAC4.0V(50Hz)が乗った場合、 測定電圧3.5Vに何mVの誤差を発生させる可能性があるか？ どなたか、教えて下さい。 ※電池電圧は一定とする ※AC4.0Vは一定とする
- 締切済み
- その他（生活・暮らし）
- 有効桁数 実験 計算値 誤差 計算など
実験の結果のことについて 測定器が20kΩと表示した場合、レポートで2200Ωと表記するのはよろしいのでしょうか？ 誤差の計算について 計算値の結果が有効桁数により、1.21×10^3Ωとなり、実測値1204Ωと誤差を計算する場合、これは誤差を計算できますか？
- 締切済み
- その他（学問・教育）
- オシロスコープの許容誤差の読み取り方について
オシロスコープを使用した際許容誤差を考えますよね。 その許容誤差についてなんですが、 例：20[mv/DIV]で測定した際結果は0[v]であった。 この場合の結果に書き方は、 0.0000±0.0004[v] (=0.4[mv]) でいいのでしょうか？ 許容誤差は最小目盛りの1/10と習ったのですが、 先生にこの書き方は違うと言われ、 正しくは0.004[v] (=4[mv])だと言われました。 しかし20[mv/DIV]の場合最小目盛りは4[mv]なのでその1/10の0.4[mv]ではないのでしょうか？ 教えてください。
- 締切済み
- その他（学問・教育）
- 反転増幅器の周波数特性
入力電圧V1=300ｍV、R1＝10ｋΩ、Rf＝100ｋΩの反転増幅回路で周波数を100Hzから200ｋHｚまで徐々に変化させていくと、10ｋHz以降から位相差が生じて、出力電圧、利得が減少しはじめました。どうしてこんなことが起きるのでしょうか？その根拠がわかりません・・・ そしてなぜ10ｋHzから生じたのかという根拠もわかりません。 どなたかご回答の程よろしくお願いします。
- ベストアンサー
- 物理学
- フィルタ回路（ローパスフィルタ）
発振器を用いて正弦波を発生させ、フィルタ回路（ローパスフィルタ）に入力。入力電圧および出力電圧はオシロスコープにより測定し、周波数を変化させて入力電圧及び出力電圧の比と位相差を調べる実験を行い、電圧比とその理論値,位相差とその理論値の差はあまり無かったのですが、少々誤差が生じました。この誤差が生じる原因はオシロスコープからデータを読み取った時に読み間違いしてしまったと言う人為的ミスだけなのでしょうか＞＜他に誤差が生じてしまう原因を教えてください。。願いします。
- ベストアンサー
- 物理学
お礼
おっしゃる通り有効桁数を勘違いしていました。。 ご指摘ありがとうございます。 有効桁数6桁の測定器での測定データの有効桁数は6桁でよろしいのでしょうか？