- ベストアンサー
精度と有効数字の関係について
- みんなの回答 （2）
- 専門家の回答
質問者が選んだベストアンサー
＞ということは精度0.2%のときは500±1で有効数字は三桁になるのでいいのでしょうか？ ああ、なるほど。 そういう疑問ですか。 結論から言いますと、 ０．１％でも０．１５％でも０．２％でも０．３％でも・・・・・・ れいてん何％のときは、全部、有効数字４桁必要になります。 仮に測定値が、有効数字３桁で、０．２００±０．００１だったとしましょうか。 これは精度０．５％になってしまいますよね。 一方、 ０．８００±０．００１では、精度０．１２５％となり、０．２％を下回りますよね。 というわけで、有効数字３桁の場合ですと、上のほうの桁の数字によって、精度が０．２％より上になったり下になったりしてしまうわけです。 ですから、統一した考え方で行くためには、０．１％だろうが０．２％だろうが、４桁必要ということになります。 いずれにせよ、πa^4tΔp/8Vl という計算値を出すための測定ですから、各測定値がどれだけの誤差で測定できたかどうかが問題になります。 見かけの有効数字をいくら増やしても、測定精度がそれに見合ってなければ無意味ですよね。 πa^4tΔp/8Vlの誤差 ＝aの測定誤差×４＋tの測定誤差＋Δpの測定誤差＋Vの測定誤差＋lの測定誤差
その他の回答 (1)
- sanori
- ベストアンサー率48% (5664/11798)
＞t.Δp.V.lの測定精度は0.2% ,aの測定精度は0.05%必要ですよね？ 別にそうでなくてもよいです。 aの測定精度×４＋tの測定精度＋Δpの測定精度＋Vの測定精度＋lの測定精度＜1% であればいいので、例えば、全て同じ精度で測定するとすれば、各々0.125%以内の精度で測定すればよいのです。 仮に0.1%の精度で測定するとすれば、 例えば、 １０００（４桁）±１ならば、ジャスト０．１％の精度ですし ９９９（３桁）±１ならば、０．１％の精度より僅かに悪いということになりますよね？ ですから、０．１％に対しては有効数字４桁あれば十分ということになります。
補足
回答どうもありがとうございます。0.1%の有効数字はご説明のおかげで理解できたのですが・・・ということは精度0.2%のときは500±1で有効数字は三桁になるのでいいのでしょうか？
関連するQ&A
- 水の粘性係数の測定 誤差の伝播について
水の粘性係数の測定の実験で式η＝(πρgha^(4)t)/(8Vl) で与えられる。誤差の伝播を表す式を求めよ。 という問題なのですが、題意からよくわかりません。 お手数をおかけしますが解き方、もしくは回答のほうよろしくお願いします。
- 締切済み
- 物理学
- 流体力学の問題がわかりません＞＜
外半径がa,内半径がbの水平な同心円管のあいだを流れる流体(粘性率η)について、管の長さをl,両端の圧力差をΔpとすると、単位時間に流れる流体の体積は次式で与えられることを示せ。 πΔp/8ηl{a^4–b^4–(a^2–b^2)^2/log(a/b)} どうかよろしくお願いいたします。
- ベストアンサー
- 物理学
- 有効数字について
有効数字について 電気系の実験において、有効数字がそれぞれI(1ケタ)、V(4～5ケタ)という測定値を得たとします。 このとき、他に有効数字がL(2ケタ)、S(2ケタ)という数値を用いて、 ρ=(S/L)*(V/I) という計算を行ったとします。 この時、ρの有効数字も、有効数字が最小ケタ(1ケタ)のIに合わせて、1ケタとして最終的に値を出せば良いのでしょうか？ また、測定結果をまとめた表を書く際、I,V,ρの値をそれぞれ示したいのですが、 この時には、「有効数字をそろえて」Vの実際の測定値も有効数字1ケタに丸めなくてはいけないのでしょうか？ Vの値はそのまま表に記載した方がいいのでしょうか？ 「有効数字をそろえて」と書いたのは、「有効数字をそろえる」という言葉の意味がイマイチ理解し切れていないためです。 あまり上手い日本語で書けていないかもしれませんが、 ご教授のほど、よろしくお願いします。
- 締切済み
- 物理学
- 粘性とレイノルズ数
流体力学の問題なのですが、どなたかアドバイスおねがいします 航空機の1／30の長さの模型を作り、相似流れの水槽中で実験した(航空機のまわりの気流の状態をしるため) 模型の任意位置での圧力は水柱2000ｍｍだったとき これに対応する位置での実物の圧力は水柱何ｍｍとなるか。 条件として 水と空気との粘性係数の比は50：1、密度の比は800：1 となっています まず私が考えたのはレイノルズの相似則から ν1／Ｖ1Ｌ1＝ν2／Ｖ2Ｌ2 を使うことです。 今、条件から ν2＝50ν1 Ｌ1＝30Ｌ2 になります (実物の状態を１、模型の状態を２として) また Ｐ1／ρ1Ｖ1＾2＝Ｐ2／ρ2Ｖ2＾2 に Ｐ2＝2000 ρ2＝800ρ1 を代入して上の式と合わせて解いたところＰ1＝5.62×10＾6 という大きすぎる値が出てきてしまいました 答えは0.71ｍｍになるのですが、どこが間違っているのでしょうか？ なんとなくですが、Ｒｅ＝ＶＬ／ν を使っていないのも気になります・・・ 間違いの指摘・アドバイス、よろしくお願いします
- ベストアンサー
- 物理学
- 測定値と有効数字
目盛りのついた測定機器を用いて、測定値を求めた場合の有効数字の考え方がよく分からなくて困っております。例えば、以下のような場合ではどのように有効数字を取ればいいのでしょうか？ 例）ノギスを用いて（最小目盛り0.1）２つの試験片の長さLを測定し、測定値を用いてX＝L×3.14の計算を行う。 <試験片a> L : 1.12 <試験片b> L : 11.24 この場合 aの有効数字3桁で1.115から1.125の中に真値あり（誤差±0.05） bの有効数字4桁で11.235から11.245の中に真値あり（誤差±0.05） と考え、最終的に計算式に代入すると <a> X=1.12×3.14=3.5168＝3.52 ← 有効数字3桁で3.515から3.525の中に真値（誤差±0.05） <b> X=11.24×3.14=35.2936＝35.29 ← 有効数字4桁で35.285から35.295の中に真値（誤差±0.005） として良いのでしょうか？同じ測定機器から求めた値にも関わらず、掛け算を行ってしまうと、測定誤差が異なってくるのに違和感を感じます。 回答よろしくお願いします。
- ベストアンサー
- 物理学
- 高校化学の気体の分圧や物質量に関してです。
I 次の文章を読み、問１～問４に答えよ。ただし、気体Aと気体Bはそれぞれ異なり、いずれも理想 気体としてふるまうものとする。 温度T[K]で、物質量x（mol）の気体Aと水の入った体積V1（L）の容器１と、気体Bが入った体積V２ （L）の容器２を図のようにバルブを閉めた状態でつないだ。平衡状態で水の体積はｖ（L）であった。 このとき、水に溶けている気体Aのモル濃度ｍ（mol/L）は、気相における気体Aの分圧Pa（Pa）と、 定数Ka[mol/(Pa• L)]を用いて式（1）のように表されるとする。 m=KaPa (1) 問１ 溶液中に溶けている気体Aの物質量x’（mol）を、Pa, v, Kaを用いて表せ。 問２ Paをｘ , ｘ’, v , T , V1 および気体定数 R[(Pa• L)/(K• mol)] を用いて表せ。 問３ Paをｘ’, m を含まない式で表せ。 問４ バルブを開放して平衡状態に達したとき、気体Aの分圧Pa（Pa）は、開放前と比べ1/2であっ た。 V2をV1, v, Ka, R, T を用いて表せ。 ただし、気体A とBは反応せず、バルブの体積は無 視でき、水の体積は変化しないものとする。また、気体Bが水に溶解しても式(1)が成り立つも のとせよ。
- ベストアンサー
- 化学
- 作動油の圧縮性
以前の質問者様の書き込みで、とても勉強になる質問をされている方がいらっしゃったのですが、きちんと理解したいので下記の質問を詳しい式で教えて頂けないでしょうか？ よろしくお願い致します。 作動油の熱膨張 完全密閉容器（200L）に一般作動油を充満させ、 常温20℃から200℃まで加熱した場合に密閉容器に加わる圧力を求めるには、 どのような計算をすれば良いのでしょうか？ ΔV＝α・V・ΔT α：熱膨張係数 8.0×10^(-4)・・・・この値も適正？ V：元の体積 ΔT：温度変化 ΔV：体積変化 と β＝1/P・（V1-V2）/V1 β：圧縮率［1/MPａ] → 鉱物系作動油 6～7×10^(-) P：加圧圧力 V1：圧縮前の体積 V2：圧縮後の体積 で考えて良いのでしょうか？
- 締切済み
- 機械設計
- 物理学実験の計算 有効数字
大学で物理学実験をしていてふと疑問にかんじた点があったため質問したいと思います。 Ｖ１ ＝ 91.0〈V〉 Ｖ２ ＝ 22.0〈Ｖ〉 Ｖ３ ＝ 70〈V〉 Ｉ ＝ 2.16〈Ａ〉 Ｓ ＝ 15.092・・ ＝１５（有効数字2桁のため） Ｐ ＝ 14.2・・ ＝１４（有効数字2桁のため） という測定結果がでたんです。 この結果からＱをだすんですが、 （ちなみに、Ｑ＝√（Ｓの二乗 － Ｐの二乗）です） この場合はＳとして１５を代入するべきか１５．０を代入するべきか迷ってます。Ｐについても同様です。 結果はＳ＝１５、Ｐ＝１４をいれると、Ｑ＝５．４という結果になり、Ｓ＝１５．０、Ｐ＝１４．２を代入するとＱ＝４．８になります。どちらが正しいのかわかるかた答えてくれるとありがたいです。 できれば詳しい解説もよろしくお願いします。
- ベストアンサー
- 物理学
- U字管と粘性率（減衰振動について）
物理の問題です！結構ピンチで何とかしなくてはいけないので、みなさんよろしくお願いいたします★ ******************************************************************************************************************************** 太さ一様の、細い円管中を、粘性率ηの縮まない流体が流れるとき、単位時間当たりの体積流量Qが、両端の圧力p1,p2、管の半径a、管の長さをLとして Q＝{π(p1-p2)a^4}/8ηL ・・・・・（１） となるそうです。このとき、U字管のなかに、長さ２Lで密度ρ、粘性率ηの液体を、左右の表面の高さがｈ違う状態を初期状態としておいたとき、 問１ どのような運動をするか？ 問２ いかなる時刻もｈが負にならない最大の管の半径はいくつか ******************************************************************************************************************************** 問１は、減衰振動をして、左右の高さが同じになるところに収束するんだと思います。 問2は、「管が細いと、振動をしないまま左右の高さが同じになっちゃうから、その最大の管の半径を求めてよ！」ってことですよね？ 問１も問２もイメージはできるのですが、数式化できません！！ 速度に比例する抵抗力（ボールを投げた時の空気抵抗みたいなもの！？）が働くんだ、っていうことは想像つくのですが、（１）式から、どのように数式化したらよいのか意味不明すぎます！ どなたか物理や数学に詳しい方・・助けてください・・！！★よろしくお願いします！！(*_*)
- ベストアンサー
- 物理学
- 測定機の精度突合せについて
ある寸法測定器を仕入先で使用していて、社内でも同じ目的の寸法測定器があるとします。自社内器の繰返し精度が±0.1 [μm]で仕入先側の繰り返し精度が±1 [μm]と丁度１桁違います。仕入先側の出荷検査値は丁度狙い寸法の真ん中程度になっていますが、社内受入検査では大きめの数字が必ず出てしまいます。この為、標準ゲージを使って測定精度の突合せをしましょうということになりました。この場合にルールをどのように儲けたらよいのでしょうか？ そもそも精度が一桁違いますし、自社側の精度範囲に仕入先側の装置を校正することができません。単純に、標準ゲージに対しての数点測定の平均値の差分を埋め合わせて納入値としてしてしまえばいいのではないかと考えていますが、社内の上司はt検定だχ検定だといいます。有意差の有る無しをを判定した所で問題は解決しないとは思うのですが・・。
- 締切済み
- その他（学問・教育）
お礼
どうもありがとうございました。やっと精度について分かりました。