物理学(・工業力学)での小数の扱い

質問

私は工科系大学の1年生なのですが、物理学(・工業力学)での小数の扱いはどうなるのですか？
高校のときは、ほとんど有効数字2桁だったんですが。
例も参照してください。
(例：123.456789のとき、どういうふうな表記にすればよいのですか？)

回答No.3

KinakoAme

No.2さんの回答にありますように，測定装置の精度とダイナミック
レンジが測定上の誤差を決めます。これを測定誤差といいます。
No.2さんの，最大測定質量がダイナミックレンジのことです。
精度がいくら高くても，ダイナミックレンジが小さければ，有効桁は
少なくなりますね。つまり有効桁を決めるのは，測定器のダイナミック
レンジということになります。

ダイナミックレンジが小さい場合でも，質量の場合ならば，複数回に
分けて測定すれば，有効桁は上がります。ところが，試料を分けると
全量が測れているとは言い切れないでしょう。これも測定誤差の一部と
なります。

分けた場合の測定誤差を求める別の実験が必要となります。ダイナミック
レンジ内で測定できる量を測定し，それを分けた場合と比較することで
この場合の測定誤差を見積もります。

物理の授業を受講しておいでならば誤差論を習うと思いますので，
詳しくはそちらで勉強するのがいいと思います（カリキュラムに
なければ先生に質問してみて下さい。必ず知ってます）。

高校の時にも標準偏差という考え方を習っていると思いますが，
誤差論はこの考え方の延長にあります。統計処理においても誤差は
発生しますので，こちらは統計誤差などと呼ばれます。

No.2さんのおっしゃるように，繰り返しを増やして精度を増すのは
リニア（１０回測れば１桁上がる）ではないことは，誤差論を勉強
すれば分かると思います。

回答No.2

noname#21649

工業関係の力学ですと.質量計の精度が4桁か５桁のはずです。これ以上の数値は天秤でも使わない限り無意味です。
ところが物理学ですと.８桁とか１６桁とかかなりの有効桁のある測定方法を使っています。

ですから.何の測定か.何桁の有効桁の測定を使っているか.で大きく変化します。
最大測定質量200mg感度1ugの質量計ですと
123.456
天秤ですと.ラターでもう１桁増えますから
123.4567
バネ式テンションメーターですと3桁ですから
123

繰り返しを増やしてうまく補正すれば.感度1ugを0.1ugに上げることも可能(その代わり地獄の操作が待っている)で
123.45678

計算問題の場合には.計算前の元の数値が何桁で表されているかで.結果が変わります。これを読み取ってください。

回答No.1

OsieteG00

指示があればそれに従ってください。コンピュータ系なら浮動小数点表記にすることもありますけどね。
例：0.123*10^2