有効数字のあれこれ

質問

化学の、有効数字のことについて、こんな問題があったのですが―

酸素分子１０ｇの中には約(ア)個の分子が含まれている。
したがって、酸素分子１個の質量は(イ)gとなる。
補(アボガドロ定数6,0×10^23/mol、O=16、有効数字2桁)　
という問題で、(10/32)×6,0×10^23＝1,875×10^23

アは1.9×10^23でOKだったのですが、
イに関しては、問題集では、10/(1,87×10^23)で計算しており、
自分は、10/(1,875×10^23)で計算していて、答えとは違いました。

(1)1,87
(2)1,875
(3)1,88((2)の小数点第3位を四捨五入して、(1)のようにしたもの)

どれが正しいのでしょうか？もしくは、どれも正しいのでしょうか？

よろしくお願いします！！！！

回答No.1

unazukisan · ベストアンサー

有効数字の計算は、有効数字＋１桁で計算します。
この場合、有効数字２桁なので、３桁での計算になります。
なので、１．８７５×１０＾２３のところは「１．８８×１０＾２３」で計算することになります。
（普通は四捨五入して丸めるため）

よって、（３）が正解になります。

お礼

有効数字＋1なんてはじめて知りました！
ありがとうございます

回答No.5

org1

私もこの問題に関してはすごく悩んだ時期がありました
懐かしいです

多くの文献を当たりましたが
確証のあるものは見あたりませんでした

有効数字は二桁ですから
1.875の5は全く意味のない数であり
これを持って四捨五入する根拠がない
ということで
1.87を使う

これが物理科と化学科の相談で出した結論でした
授業ではこれを採用しています

お礼

回答ありがとうございます

回答No.4

htms42

あなたの出した結果が解答と違っていた？

１０／１．８７＝５．３４７・・・
１０／１．８８＝５．３１９・・・

どちらでも５．３がでてきます。
１．８７＜１．８７５＜１．８８ですから１．８７５でやっても５．３が出て来ます。
どれを使っても同じ結果です。

おまけ
この結果５．３の３にはあまり信頼性がありません。５．２も５．３も５．４も区別がありません。殆ど有効数字は１桁です。でも５．５以上になることはないでしょう。そういう意味の５．３です。
１０というのは２桁の数字の中で一番信頼性の低いものです。演算を繰り返すと結果の精度は一番精度の低い数字の精度よりも下がります。１０よりも下がれば１桁になります。２桁の結果が欲しいのであれば初めの数値を１０．０ｇとしておかなければいけないでしょう。

お礼

詳しい回答、感謝いたします

回答No.3

noname#160321

＃1のお答えの通り、計算中は有効数字足す一桁が基本です。
ですから、(3)になるでしょう。
「最も正しい」は日本語としておかしい。「もっともらしい」「適切な」「認められる」辺りがお薦めです。^o^

お礼

納得のいく回答ありがとうございます！！！！

回答No.2

sanori

こんばんは。

・最も正しいのは　10/(1,875×10^23)
・手計算の場合は、四捨五入した数字を使った　10/(1,88×10^23)　でも正解であり、合理的でもある。
・四捨五入ではなく切り捨てにしている　10/(1,87×10^23)　でも、まあまあ正解
です。

高校の物理・化学などでは、下１桁が若干違っていても、正解扱いになります。

お礼

回答ありがとうございます！！！