有効数字について

質問

化学の問題の答えの話なんですが、たとえば、

K=10^123.456789

という答えが出て有効数字４桁まで求める場合どうするべきなんでしょうか？

教えてください。

回答No.2

ymmasayan · ベストアンサー

問題に間違いがないとすれば、
Ｋ＝１０＾０．４５６７８９　×　１０＾１２３
です。
前の部分（１０＾０．４５６７８９）を計算すれば（関数電卓）
２．８６２７８６７６・・・　となります。
求める有効数字４桁は２．８６３です。

答えは２．８６３×１０＾１２３　です。

お礼

どうもありがとうございました。助かりました。
お礼を言うのが遅くなってごめんなさい。

回答No.3

nozomi500

化学の問題、というのが気になりますが、
本当に問題が、K=10^123.456789 （１０の123.456789乗）であれば、2の方の回答になると思います。

１の回答の「123.5」になることはありません。
（１０の３乗で、すでに１０００ですから）

お礼

ymmasayanさんとADEMUさんの回答を見比べながら困っていました。
どうもありがとうございました。
お礼を言うのが遅くなってごめんなさい。

回答No.1

ADEMU

小数点第２位を四捨五入して１２３．５とするのが正解でしょう。
でも、問題の本質でKが９．９９９×１０＾９９９９という形を求めているのであればそちらで表現するべきでしょう。つまり、この後Kの対数をとるのであればそのままの数字で良い訳で、わざわざ変換する必要はないということです。

お礼

質問の意味が通じたかどうか登録したあとで心配していました。
私の迷っていたことをちょうど書いてくださって助かりました。
どうもありがとうございました。
お礼を言うのが遅くなってごめんなさい。