有効数字の加減算と乗除算についての質問
- 質問者は、有効数字の加減算と乗除算について困惑しており、具体的な計算式を挙げて解決を求めています。
- 質問者は、式(1)の計算結果が正しいかどうかについて確認を求めています。式(2)と式(3)に特に自信がなく困っている様子が伺えます。
- また、質問者は式(1)の分母の2rの2は何桁の有効数字と考えれば良いかについてもアドバイスを求めています。無限大なのかどうか不明であり、自信がないと述べています。
- ベストアンサー
有効数字 加減算 乗除算
調べれば調べるほどよくわからなくなってきたので確認の意味もこめて質問させてください。 P = (a^2 - b^2 -c^2 )/2r ーーーーーー(1) という式があって ａ＝ 26.0 ｂ= 5.0 c = 20 r = 102.0 という値だとすると a^2 = 26.0^2 = 676 b^2 = 5.0^2 = 25 c^2 = 20^2= 4.0*10^2 になり、 a^2 - b^2 =676-25=651 651 - c^2 =676-4.0*10^2 = 251 －－－－－(2) となり、 Ｐ ＝ 251/2*102.0 = 1.23039… ＝1.23 －－－(3) という結果であってるでしょうか？ (2)、(3)の部分が特に自信がなくて困ってます。 また(1)式の分母の２ｒの２は有効数字を何桁と考えればいいんですか？ 今回は無限大なのかなと思ってるのですが自信がありません。 アドバイスください。よろしくお願いします。
- buttyake
- お礼率44% (4/9)
- 物理学
- 回答数1
- ありがとう数1
- みんなの回答 （1）
- 専門家の回答
質問者が選んだベストアンサー
前の質問の続きですね。 前の質問に答えましたのでこの質問にも答えます。 ＞a^2 - b^2 =676-25=651 ＞651 - c^2 =676-4.0*10^2 = 251 －－－－－(2) ＞Ｐ ＝ 251/2*102.0 = 1.23039… ＝1.23 －－－(3) （２）が違います。それにしたがって（３）も変わってきます。 ａ^２－ｂ^２＝６．５１＊１００ ｃ２＝４．０＊１００ （６．５１－４．０）＊１００＝２．５＊１００ になります。ｃ^２の精度が不足していますので６．５１の最後の１が意味を持たなくなりました。 したがってＰの値は１．２ということになります。 Ｐの分母の２は測定量ではなくて定義量だと思いますので有効数字の桁数は無限大として扱います。 直径＝２＊半径というときの２です。
関連するQ&A
- 0,1,2,3,4,5の6個の数字から、3個の数字
0,1,2,3,4,5の6個の数字から、3個の数字を1つずつ取り出し、取り出した順に並べて数をつくる。 このとき、3桁の数になる確率を求めよ。 ーーーーーーーーーーーーーー という問題で解答の途中式を見ると、 確率の分母に当たる部分が 6P3 となっていました。 なぜ6C3では無いのでしょうか？ 6C3だと思った理由は、 6C3を計算して３つ数字を選ぶと、問題文の「取り出した順に並べて数をつくる」という制限により自動的に順番が決まる と思ったからです。
- ベストアンサー
- 数学・算数
- 測定と有効数字（乗除の場合）
測定には必ず誤差を伴います。そこで有効数字の指導は次のようにすべきだと考えますがいかがでしょうか。 【例】A5判（縦 21.0 cm，横 14.8 cm）の紙の面積は？ 〈解答〉縦・横とも±0.1 cmの誤差があると考えられるので (20.9×14.7)cm²≦真の値≦(21.1×14.9)cm² 307.23 cm²≦真の値≦314.39 cm² したがって信頼できるのはせいぜい一の位までであるから 求める面積は 21.0×14.8＝310.80≒311(cm²) 以上からわかることは，縦・横とも有効数字 3 桁なので， 答えも有効数字 3 桁で求めることである。
- ベストアンサー
- 数学・算数
- mathmaticaの有効数字について
こんにちは Mathmaticaを使用して、ある条件式を解きたいのですが、式が複雑すぎるのか、計算を実行しても２時間たってもできない上、パソコンで他の作業をすると「メモリ不足でできません。他のアプリケーションを閉じてもう一度実行してください」的なメッセージが出て、振り出しに戻りました。使用しているパソコンのスペックはPentium4の3GHzでメモリは2Gです。 具体的に解きたい計算は二次方程式で A=B+C A×f(A)= B×f(B)+ C×f(C) の二次方程式です。 Aは実数で有効数字３桁の実数で、Aを決めることで、B,Cを求めたいのです。 f(x)が少しややこしく、具体的にはf(x)=a+b/(x^2-c)+d×x^2]^(1/2) という関数なのです。ここでa.b.c.dは有効数字６桁の実数です。 最終目標はAを連続的に変化させて、Aに対するBとCの変化を見たかったのですが、 数式を書いてとりあえずAを変化させずに一つのAに対してB,Cが求まらないので、どうしようか悩んでいます。 前置きが長くなって申し訳ありません。 質問内容は 1.この方程式を解くためにはどうすればいいでしょうか。 2.求めたいB,Cの精度は有効数字３桁でいいので、 このB,Cの有効数字を３桁程度に指定できればらくだと思うのですが、そのような事は可能でしょうか？ f(x)に使うa.b.c.dはあまり有効数字を落としたくはありません。
- 締切済み
- その他（学問・教育）
- 計算結果を別セルに分割して入力したい
教えてください。A1からA10に２桁の単価数字から４桁の単価数字が入力される表があり、B1からB10に利用回数を1桁数字から2桁数字を入力して掛けた結果をC1からC10に反映させた表があります。このC1の値をD1からI1のセルへ桁数ごと分けて、右よせで数字を反映させたいのですが可能でしょうか。 たとえば A1:180 掛ける B1:5 結果C1:900 このC1:900を G1:9 H1:0 I1:0 としたいのです。 よろしくおねがいします。
- ベストアンサー
- オフィス系ソフト
- 1対1対応
1対1対応の数学IIに (x^2+3x+5)/{(x+1)^2(x+2)}=(px+q)/{(x+1)^2}+r/(x+2)は分母を0にするxの値であるx=-1、-2以外で成り立つ式であるからこの分母を払った式もx=-1、-2以外で成り立つ式である ところが-1、-2以外の実数は無限個あるので分母を払った式を成り立たせるxの値は無限個あり「P(x)とQ(x)をxのn次式として異なるn+1個のxの値に対してP(x)=Q(x)が成立すればP(x)=Q(x)が恒等式」により分母を払った式は整式の恒等式となる 整式の恒等式なのでx=-1、-2でも成立する という記述があるのですがこれはどういう意味でしょうか？x=-1、-2が成立したら同値変形でなくなってしまうのでは？
- ベストアンサー
- 数学・算数
- 有効数字について
自分は今中学生なのですが，とある化学の問題の解答で（担当の教員が書いたものです）で， （数値A）÷（数値B）＝（数値C）の計算（数式(1)）の後 （数値D）÷（数値E）の計算（数式(2)）をするとき 数値Cを四捨五入をして有効数字３桁に合わせたら数式(2)できれいに割り切れますが，本来これはおかしいのではないのでしょうか？ そんな思いもしつつ今回の試験でこの方式で解いたところ逆に割り切れなくなり（そのままの値でやれば割り切れたそうです）×をもらったしだいであります＜分子量と濃度が同じだったので『割り切れますよ』的なメッセージ性はあったのですが＞ 教員に聞いたところ中途半端な回答しかしません。 そこで聞きたいのですが，やっぱり四捨五入すれば結果が割り切れる数であろうとも，式の途中で四捨五入しないほうがいいですよね？ 乱文すいませんでした。
- ベストアンサー
- 化学
- 16進数で表現される色をRGB値になおす計算
例えば、「#F30485」という色を出したいとき、RGB値になおす場合計算方法は、 「0～9」の値はそのままで、「A～F」は「A=10」「B=11」「C=12」「D=13」「E=14」「F=15」として、2桁ずつそれぞれR・G・Bの値なので、R値は「15*16+3=243」、G値は「0*16+4=4」、B値は「8*16+5=133」で、「rgb(243,4,133)」。 つまり、計算式は、 「それぞれの最初の桁の数字*16+それぞれの2番目の桁の数字」 ということで合っているでしょうか？ 回答よろしくお願いします。
- ベストアンサー
- HTML
お礼
回答ありがとうございます。 自分なりに理解してつもりで計算してたら、Ｐの分母の２はもしかしたら有効桁数が１桁なのかという疑問にぶちあたり、いろいろ調べたら違うということが判明したんですがそこからなんか混乱してしまってまた質問させていただきました。 前の質問にも答えていただいたのにお礼もせずすいません。 大変助かりました。ありがとうございます。