- みんなの回答 （1）
- 専門家の回答
質問者が選んだベストアンサー
物理量であれば、測定誤差があると思います。例えば、1mmの目盛りのある物差しで測った長さはmmの位はただしいけど、0.1mmの位は誤差があります。15.12cmだったとすると、小数点以下2桁までは有効数字です。「誤差が含まれるがその上の桁は正しい」というところまで含めます。 デジタルで計測されるものは、表示される最小桁が誤差含みの桁になりますので、全部が有効数字です。 15.12cmというのは実際には、15.115～15.125cmということです。 計算の時は、それを考慮して計算すれば良いです。
関連するQ&A
- エクセルの全角数字
エクセルで全角の数字を入力するのは可能でしょうか？ 決定するまでは、全角で表示されているのですが、 エンターキーを押すと半角になってしまいます。 数字を入れる前に「’」を入れると 全角表示になるのですが、 そうすると計算式には反映されないようです。 どうしたらいいのでしょうか。
- 締切済み
- その他([技術者向] コンピューター)
- 有効数字の計算
有効数字の計算 有効数字の計算 1.4×3.26×2.1375×7.195 という計算をするとき、どのように計算すればいいのでしょうか？ 1.4×3.26×2.1375×7.195＝1.4×3.26×2.14×7.20 ＝4.564×2.14×7.20 ＝4.56×2.14×7.20 ＝9.7584×7.20 ＝9.76×7.20 ＝70.272 ＝70.3 ＝70 上のように左から順番に掛けていき、そのたびに有効数字３桁に直していきながら計算して 最後に２桁に直すというやり方で合ってますでしょうか？ また、例えば有効数字２桁の計算をしているとき最後に、 5.4489という数字が出てきた場合 まず、5.45と３桁にしてから、5.5とするのか いきなり２桁に直して、5.4とするのは どちらが正しいのでしょうか？ また、有効数字の計算中に割り算が出てきた場合は まず、掛け算をすべて計算してから、割るべきでしょうか？ 例えば 1.53÷3.25×5.19÷22.4 という式なら 1.53×5.19＝7.9407＝7.941 3.25×22.4＝72.8 7.941÷72.8＝0.1091＝0.109＝1.09×10^－1 とすればいいのでしょうか？ 細かいことかもしれませんけど、気になります。 他にも、有効数字の計算で気をつけなければいけないことがあれば教えてください。 お願いします。
- ベストアンサー
- 科学
- 有効数字の計算
有効数字の計算 1.4×3.26×2.1375×7.195 という計算をするとき、どのように計算すればいいのでしょうか？ 1.4×3.26×2.1375×7.195＝1.4×3.26×2.14×7.20 ＝4.564×2.14×7.20 ＝4.56×2.14×7.20 ＝9.7584×7.20 ＝9.76×7.20 ＝70.272 ＝70.3 ＝70 上のように左から順番に掛けていき、そのたびに有効数字３桁に直していきながら計算して 最後に２桁に直すというやり方で合ってますでしょうか？ また、例えば有効数字２桁の計算をしているとき最後に、 5.4489という数字が出てきた場合 まず、5.45と３桁にしてから、5.5とするのか いきなり２桁に直して、5.4とするのは どちらが正しいのでしょうか？ また、有効数字の計算中に割り算が出てきた場合は まず、掛け算をすべて計算してから、割るべきでしょうか？ 例えば 1.53÷3.25×5.19÷22.4 という式なら 1.53×5.19＝7.9407＝7.941 3.25×22.4＝72.8 7.941÷72.8＝0.1091＝0.109＝1.09×10^－1 とすればいいのでしょうか？ 細かいことかもしれませんけど、気になります。 他にも、有効数字の計算で気をつけなければいけないことがあれば教えてください。 お願いします。
- ベストアンサー
- 化学
