指数の計算

質問

銅帯抵抗　指数の計算で　1.7×10＾-8×　　（1×10＾3）/π×（0.8×10＾-3）＾2　答えは　≒8.5　ですが　自分で出した答えが合いません
計算過程教えていただけませんか？

回答No.2

AoDoc · ベストアンサー

このような数値の計算をする場合は仮数部と指数部を別々に分けてまとめ、分数式を書き、計算すると間違いが少なくなります。実際の設計の計算など間違えると危険になりますし、何回も繰り返して間違いがないか見返しますので、そのとき、間違いを発見しやすい記述方法が必要ですのでマスターしてください。

分子の指数部　　10^(-8)×10^3=10^(-5)
分母の指数部 {10^(-3)}^2=10^(-6)

分子の指数部/分母の指数部　A=10^(-5)/10^(-6)=10^{(-5)-(-6)}=10

仮数部の計算　　B=1.7/(π×0.8^2)=0.846
計算結果　A×B=0.846×10≒8.5

お礼

計算方法の画像まで送付して頂き
感激でございます　教えて頂いた計算式は
しっかり自分のものにして　マスターしたいと思います
学生の時とは違い　先生に気軽に聞ける環境が無い為
苦労していますが　このようなアドバイスを頂き　理解できると
俄然　やる気が出てきます　来年の資格試験には
笑顔で迎えれるように　がんばります　
有難うございました！

４１歳　日々進化して行きたいです

回答No.4

ruto

>1.7×10＾-8×（1×10＾3）/π×（0.8×10＾-3）＾2
この式をそのまま解くと
3.46×10＾ー12になります。
1.7×10＾-8×（1×10＾3）/｛π×（0.8×10＾-3）＾2｝
これなら
答えは8.5になります。
式の表現がおかしいと思います。

お礼

分数表現がうまく伝わっていませんでした
ご指摘どうりです
今後は　わかりやすい様に表現します

補足

一応　（1×10＾3）/π×（0.8×10＾-3）＾2の前側に
空欄を設けて分数表現したのですが
それでは伝わりにくいですね。

回答No.3

AoDoc

No.2です。
　お礼をいただいて恐縮です。
　画像の数式は説明のために丁寧すぎています。もっとまとめて良いと思います。また、数値計算では例えば、L=20cm=200mmの時、2×10~2とした方が、電卓の打つ回数が少なくなり、ミスを少なく出来ます。また、画像の数式で仮数部の分母数値は、0.8^2=0.64,分母はπの6割程度でおよそ1.8位,、1.7／1.8は1より小さいと計算結果を暗算で予測でき、電卓で計算したとしてもミスを防止できます。実際の設計計算等では間違いは許されませんのでミスが少なく、効率的な方法をとります。複雑な数値計算の場合はこの方法は有効と思っています。
　資格試験頑張って下さい。

回答No.1

W_edged

まず、分母が、約2×10^-6　ですね？
先に
1.7÷2＝0.85
指数の部分は、
10^-8×10^3／10^-6＝10

したがって、8.5

お礼

的確なアドバイスありがとうございました！