• ベストアンサー

セル上に表示された見かけ上の数字で計算したい

sydneyhの回答

  • sydneyh
  • ベストアンサー率34% (664/1947)
回答No.4

No.1のsydneyhです。 回答しておいてなんですが、自分で言ったことをやってみたら間違いでした(^^;;)。 No.1は記憶から削除して下さい。失礼しました。

rondo
質問者

お礼

了解しました。今後ともよろしくお願いします。

関連するQ&A

  • 有効数字について

    有効数字についての質問です。 有効数字2ケタで答える問題があるとします。 途中の計算がいくつかに分かれる場合は、3ケタ目まで計算して進めていき、 最後に出た答えを四捨五入する、 と習ったのですが、 「途中の3桁」というのは、4桁目まで計算して四捨五入するのか、3桁目で計算をやめて以降を切り捨てるのかがわかりません。 よろしくお願いします。

  • 四捨五入して計算をする方法で謎があるんですが?

    足し算だと12+8を片方の数字を四捨五入して12+10=22 22-2=20にというふうになるじゃないですか。 *12+8=12+10-2=20 引き算だと52-7を片方の数字を四捨五入して52-10=42 42+3=45 *52-7=52-10+3=45 といった通りに四捨五入計算すれば簡単に計算できるじゃないですか。 もしかして掛け算と割り算も四捨五入計算できるのですか? 掛け算と割り算は四捨五入計算で答えを出せるのかがわかりません? もしできるんだったら計算式も詳しく教えてください!

  • 足し算や引き算で謎めいていることがあります。

    まずはこれを見てください。 例 17-8=9 四捨五入して計算していくのですが *17-8の17を20にして 20-8で頭の部分を20にしたので20-8-3=9 答えが9で合っているじゃないですかぁ *でも今度は17-8のうしろの8を10にします 17-10にしたので17-10-2にすると答えが9になりません けど17-10+2にすると答えがちゃんと9になりました なんで頭の数字だけをを四捨五入するのと今度は後ろの数字をだけを四捨五入するでは+ -と変わってしまうのですか? なんで頭の数字を四捨五入すると-になるのですか? なんでうしろの数字を四捨五入すると+になるんですか? これを詳しく教えてください。 これは実際どっちの計算でやっていった方がいいのですか? 頭の数字を四捨五入すればよいのか それとも うしろの数字を四捨五入すればよいのか これも教えてください。

  • 有効数字の計算方法

    有効数字を考えて計算するときに、計算途中で出てきた数字は桁数をひとつ多くとりますが、 そのときにそれ以下の数字は切り捨てるのか、四捨五入するのかはどちらが正しいのですか?

  • 有効数字(有効桁数)と四捨五入について・・・。

    自分は現在高校生です。物理化学数学でカテゴリ迷ったのですがこちらに。 四捨五入、有効数字に関する質問は過去にもあるのですが、何か腑に落ちないので質問させて貰います。 学校では、 http://www.fnorio.com/0034significant_figure1/significant_figure.htm にあるように、「有効数字+1桁までを計算して結果を出し、その結果を有効数字にまとめろ」と習います。 しかしこれをやってしまうと、以下有効数字による表記として、 ア・・・1.1+1.445=2.545→(有効数字2桁なので四捨五入)→2.5 イ・・・1.1+1.445→(まず有効数字を3桁にしてみる) →1.1+1.45=2.55→(有効数字2桁なので四捨五入)→2.6 となり答えが違ってきます。 じゃあ有効数字+2桁まで計算すればいいのかと思うと、 ウ・・・1.1+1.4495=2.5495→(有効数字2桁なので四捨五入)→2.5 エ・・・1.1+1.4495→(有効数字4桁にしてみる)→1.1+1.450=2.550→(有効数字2桁なので四捨五入)→2.6 となりやっぱり答えが変わるパターンがあります。 乗除については、 (四捨五入せずに)積を計算→結果を有効数字+1桁に変換→・・・ なんてことを繰り返していると+1桁程度では厳密に計算したものとかなり違ってくると思います。 実際、高校の物理や化学ではア~エは全部正解にしてくれると思うのですが(エはよく分かりませんが・・・)、数学的にはどうなのでしょうか。 また、誤差の大きくなってしまう乗除はどうすればいいのでしょうか。

  • 物理 有効数字の計算

    PV=nRT 体積 1.12×10^-2 m^3  0℃ 1.0×10^5 Pa 気体定数8.3J/(mol×K) nを求める計算で、どうしてもn=0.49(n=0.494を四捨五入)になってしまいます。答えだとn=0.50 僕はPV/RT=nと変形してすべて計算した後四捨五入をしたんですけど、 間違っているんでしょうか?四捨五入するタイミングって最後でいいんですか?

  • 有効数字の計算の添削お願いします!

    有効数字の計算の添削お願いします! 8.002×(1.2500×10^-1)+9.25 (m/s^2) (s) (m/s) を計算したのですが(2行目の括弧内は物理単位です)、以下のような手順で合ってますでしょうか? 8.002×(1.2500×10^-1) =8.002×0.12500 =1.00025 となるが、有効数字4桁+1桁(小数第5位の『5』を四捨五入)で、1.0003 1.0003+9.25 =10.2503 となるが、有効数字3桁で、10.3 よって、最終的な答えは 10.3 (m/s) 色々調べてみたのですが、頭がこんがらがってしまって・・・合ってるか不安です。 皆さんのお知恵を貸してください。 よろしくお願い致します。

  • エクセルで数字を希望する有効数字にまるめる方法(関数など)を教えてください。

    たとえば有効数字を2桁で表現しなければならない場合、実際のセル内の数値が「0.123なら0.12に、4.56なら4.6に、678なら680に、12345なら12000に変換する。」といったぐわいです。何かよい方法はありませんか。今のところ、かなり面倒なことをやっています(笑)。それは桁数を求める関数によって実際の数値の桁数をよみ取ります。(たとえば5桁)、有効数字の桁数を引き(有効数字2桁表示ならさっきの5から2を引いて3)、最後にその数字の位で四捨五入する(3桁目を四捨五入の関数を使用)という方法です(恥)。

  • excelの計算の仕方

    大変初歩的な質問なのですが・・・ excelで計算式の入力で、まず、A1のセルにに=3*1.8と入力するとします。小数点以下を0桁にすると、四捨五入されて、5と表示されると思います。 次に、B1に=A1*2.3と入力し、小数点以下を1桁にすると12.4になると思います。 でも・・・ この計算だと、B1のセルは、5*2.3ではなくて5.4*2.3になりますよね? ここで、5*2.3にしたい時は、B1にどういう計算式を入れたら良いのでしょうか? または、A1の数字を四捨五入前の数字で計算するのではなく、表示されている数字を固定(?)する方法とかないでしょうか? 大変わかりにくい説明で申し訳ありませんが、理解できて良い方法が思い当たる方は、教えてください。 よろしくお願いします。

  • 有効数字について

    有効数字について例えば1.7657×3.23というような式があり、1.7657はそれまでの計算で出た、 途中計算の値だとします。また有効数字は3桁であるとします。 有効数字3桁なので1.7657は有効数字4桁の値にするのですが、この場合末尾の7を切り捨てるのですか?四捨五入するのですか? ちなみにZ会の参考書は切り捨てのほうが一般的と書いています。 大学入試では切り捨て派と四捨五入派がいることを考慮して末尾の誤差は考慮して採点してくれるのでしょうか。 また有効数字4桁とか気にせず計算し最後に四捨五入して有効数字3桁にしたほうが安全でしょうか。