- ベストアンサー
16進数から10進数への計算
- みんなの回答 （3）
- 専門家の回答
質問者が選んだベストアンサー
１０進数が 100 10 1 1/10 1/100 となるのはわかりますか？ １６進数は 256 16 1 1/16 1/256 となります。
その他の回答 (2)
一般化して、n進数とはどういう数字なのかを考えるといいです。例えば「abc.def」というn進数がどう表されるかですね。それは、以下のような数です。以下、「^」ですが、^2は2乗、^(-2)はマイナス2乗です（エクセルでも使える記法）。 a×n^2＋b×n^1＋c×n^0＋d×n^(-1)＋e×n^(-2)＋g×n^(-3) 10進数ならn=10で、これはよく使うので分かると思います。10^(-1)は1/10、10^(-2)なら1/10^2＝1/100です。 16進数ならn＝16に変えてしまえばいいのです。ですから小数点以下は、小数点1桁目：16^(-1)＝1/16^2、同2桁目：16^(-2)＝1/16^2、同3桁目：16^(-2)＝1/16^3、となっていきます。 16進数だけではありません。2進数ならn＝2、3進数ならn＝3とすれば、全く同じに考えて大丈夫です。 >5 x (1/16*1) + 12 x 1/16*2)とか書いてあった その「*」はよく掛け算で使う記号なんですが（エクセルなどはそう）、上記の「^」の意味で使っているようですね。
- gohtraw
- ベストアンサー率54% (1630/2966)
桁が下がるごとに１／１０になっていくのは１０進数だからであって、 １６進数だったら一桁下がれば１／１６です。
関連するQ&A
- ８進数、１６進数→１０進数基数変換の解き方
８進、１６進を１０進に直す基数変換を解いているのですが、いまいちあっているのかわかりません。 答え合わせをお願いします。 36.4（８進数） ３×８（１乗）＋６×８（０乗）＋４×８（マイナス１乗）＝３０．５ 2D.C（１６進数） ２×１６（１乗）＋D×１６（０乗）＋C×１６（マイナス１乗）＝45.75 ●×■（マイナス１乗）は、■（１乗）分の●で計算 検索した方法ではよくわからず、習った方法は忘れてしまいました・・・ わかりにくい表現方法で失礼します、よろしくお願いします。
- ベストアンサー
- 数学・算数
- マイナスのべき乗の計算方法
マイナスのべき乗の計算方法について、他の方の質問なども見たのですが、私が知りたいことにつながらなかったので、あらためて質問をします。 0.001=1×10^-2乗 という式があります。この式は正しいのでしようか。そしてこの式は、0.001=10^-3乗と同じことを指しているのでしようか。他での解答の中に、10^-2乗の計算の仕方は、1÷(10×10)というふうにするとありましたが、これだと計算が合いません。また、1×0.1×0.1という説明もありましたがどちらも0.01になってしまい計算が合いません。そもそもこの式(0.001=1×10^-2乗)自体が間違っているのでしょうか。また、(0.001=1×10^-2乗)という式は計算の中身であって実際に式として表す場合には0.001=10^-2乗のみで良くて、計算をするときに1を掛けるという意味なのでしょうか。 長くなってしまいましたが、知りたいことは0.001をべき乗で表すとどうなるかということです。こんな基礎的なことが分からないのかといわれそうですが、素人の私にどなたか分かりやすく教えて下さい。よろしくお願いいたします。
- ベストアンサー
- 数学・算数
- 2進数の小数計算について
コンピュータは0と1の２進数で計算しますが、小数点の計算は苦手だと聞いています。 実際、消費税の0.05を2進数で表現することは出来ません。では、どうやってコンピュータで小数点の計算しているのですか?
- ベストアンサー
- 情報処理技術者
- 進数の計算です
この計算をお願いします。 できれば、途中計算もお願いいたします。）右の数字は進数を表します １）（２６）１０を２進数に。 ２）（０．５７２５１）１０を２進数に 小数点以下5桁までです。 ３）（２６．５７２５１）１０を２進数に これも同様です。 ４）（２６）１０を８進数に ５）（２６）１０を16進数に ６）（１１０１０１）２＊（１１１）２ ７）（１１０１０００）２/（１１０）２ ８）（２６）１０＊４を２進数で表す ９）（２６）１０/４を２進数で表す かなり多いですが、わかるところだけでもお答えいただけたら幸いです。 お願いいたします。
- 締切済み
- その他([技術者向] コンピューター)
- 例）3＾3=3x3x3=27 3＾0.5=？
質問のレベルが低くて恥ずかしいのですが、タイトルで書きましたように、何乗にあたる部分が整数の場合は、分かるのですが、先日近似曲線の式を表示させたときに、何乗にあたる部分が小数点で表示されました。何乗にあたる部分が小数点を含む数字の場合は、どのように理解すればよいか教えてください。 数学が、得意ではないので、算数に近い形で、説明や、イメージの仕方を、教えていただければ大変助かります。
- ベストアンサー
- 数学・算数
- レイリー数の計算について
レイリー数の計算の中に、「代表長さの3乗」というものがありますよね？ 2枚の並行板の間に流体を挟んだモデルでは、「平行板の間隔」=「代表長さ」とされていますが、円柱状の容器をモデルにした場合、どうなるのでしょうか？ 長さの3乗というと立方体の体積が思い浮かぶのですが、円柱の体積は式が異なりますよね？この場合でも「高さの3乗」で計算していいのでしょうか？ またその場合、容器の体積に関係無く、高さが一定ならばレイリー数も一定ということになるのでしょうか？
- ベストアンサー
- 物理学
- VisualBasic と Fortran の計算結果の相違
以下のような技術的な計算式があります。 C=8.9×10７[7:べき数]×S/(X-Xa)２[2:べき数]×exp(-35.1×(Y-Ya)２[2:べき数]/(X-Xa)２[2:べき数]))- 221.1×H２[2:べき数] /(X-Xa)２ [2:べき数] 使用変数などの値の大まかな範囲 C ： 求める変数 X,Y,Xa,Ya：0～20000 S：0～500 H：10～200 この式をVISUAL BASIC FOR EXCELとFORTRANでそれぞれ単精度計算した場合では，結果が小数点第3位ぐらいで相違があるのですが，当方のプログラムミスか言語が違うことによることなのか，どなたか教えてください。結構困っています。 よろしくお願いします。
- 締切済み
- Visual Basic
お礼
わかりました。1/16を二乗したのですね。。。 すみません。