• ベストアンサー

プログラマ電卓でどのように変換すればよい?

「&H800」は10進法で2048になるようですが Win7付属のプログラマ電卓でどのように変換したらそうなるのでしょうか? 16進でF800と入力して10進に切り替えると、63,488になってしまいます。 いまプログラミングをしていて、プログラム上では、F800は2048になるのですが それを電卓で計算するにはどうすれば良いでしょうか?

質問者が選んだベストアンサー

  • ベストアンサー
  • bunjii
  • ベストアンサー率43% (3589/8248)
回答No.3

>Win7付属のプログラマ電卓でどのように変換したらそうなるのでしょうか? 「&H800」は2進数の100000000000なので10進数に置き換えると2^11=2048になります。 あなたの思考回路を見直して扱い値がWord(16bit)、DWord(32bit)、QWord(64bit)の何れを対象としているかの定義が必要です。 「&H800」は上の全ての条件で10進数に直すと2048になります。 >16進でF800と入力して10進に切り替えると、63,488になってしまいます。 &HF800はWord(16bit)として扱うと-2048であり、DWord(32bit)またはQWord(64bit)では63,488になります。 >いまプログラミングをしていて、プログラム上では、F800は2048になるのですが -2048(負数)ではなく2048(正数)になるのであればプログラムの誤りです。 あなたが扱っている値を2進数で評価すると誤りの原因が分かるでしょう。 >それを電卓で計算するにはどうすれば良いでしょうか? 電卓で強制的に誤りを発生させる手段はありませんのでプログラムの結果を電卓で確認してプログラムの誤りを認識してください。

GBNIMUEUWN
質問者

お礼

ありがとうございます。

全文を見る
すると、全ての回答が全文表示されます。

その他の回答 (2)

  • notnot
  • ベストアンサー率47% (4854/10269)
回答No.2

F800 は16bitで -2048 を表現した物です。 電卓の使い方で言うと、左下のword(16bit)を選択して16進で F800 を入れて10進に直すと -2048 になります。

GBNIMUEUWN
質問者

お礼

あら おっしゃる通り、16bitにしたら、 F800が2048になりました。ありがとうございました。

全文を見る
すると、全ての回答が全文表示されます。
  • gha10320
  • ベストアンサー率71% (5/7)
回答No.1

F800と入力して、63488になるのが正しいです。 800(16進)->2048(10進)です。 あなたのプログラムが間違っています。 &H800は16進の800という意味です。 F800のFはどこからでてきたのでしょうか。

GBNIMUEUWN
質問者

お礼

最初の「F」が余計だったようですね。 見間違えてました。

全文を見る
すると、全ての回答が全文表示されます。

関連するQ&A

  • 電卓ソフトを作るには逆ポーランド法で良いのですか?

     プログラミングの勉強をしながら式入力型の電卓を作りたいと思い調べたところ「逆ポーランド法」を知りました。  まず四則演算出来るものを作り最終的には関数電卓を目指そうと思っているのですが、この「逆ポーランド法」を取り入れた計算プログラムを学べば良いのでしょうか?もっと適している他の手法はありますか? 公開されている式入力型の電卓ソフトはどのような手法でプログラムされているのでしょうか?(なかなか式入力型のサンプルが見つからなくて…。)  言語はActiveBasicを使用していますが、情報が少ない為VisualBasicのサイトで勉強しています。 宜しくお願いいたします。

  • プログラマーになるなら、

    プログラマーになるなら、 「趣味は?」と聞かれたら 「プログラミングです!」と答えられるくらいプログラムを組むのが好きじゃないとなれないですか?

  • 基数変換(?)の出来る電卓

    基数変換(?)というか、10進数から2進数や16進数や8進数への変換、またはその逆の計算(変換)ができる電卓ありましたら教えてください。なるべく安いほうがいいです。(中古も可)

  • 16進数変換可能な関数電卓

    こんにちは。 Win7の関数電卓が使いにくいので、フリーのものを探しています。 必須機能は16進数への変換で、Vistaまでの関数電卓機能で十分です。 そのような電卓ソフトをご存知の方、教えてください。 幾つか見てみましたが、見た目もシンプルなものを最終的には選びたいです。

  • 電卓の使い方

    10000*2+1000*2+100*2 ↑このような計算をしたいのですが、 M+を使って、このような式を入力すると、とんでもない計算結果になります。 ((10000*2+1000)*2+100)*2 計算結果を見ると、↑こんな計算をしてるようです。 (10000*2)+(1000*2)+(100*2) ↑のような計算をしたいのですが、電卓の入力方法を教えてください。

  • 関数電卓の使い方とhms>°  ' "への変換方法

     こんにちはみなさん 質問があります関数電卓で 60度のcosを求める場合は60と打ちcosを押せばいいのは やってみて理解したのですが  ここの角度が 38°47'2".9の場合はどのように計算するのでしょうか あと、   hmsで求めた値を°  ' "に変換したい場合どうすればいいのでしょうか たとえば5h16m48s.194のばあい いちど[s]に直して それから[h]だけに直し 5h.280・・・ そこから 角度=360°/24h × 時間h を利用しているのですが  そこで79°.・・・・・ともとまってから どうやって ' " を求めればよいかわかりません。 アドバイスおねがいします

  • 関数電卓が欲しい

    仕事柄、16進数の計算・10進数への変換等をする必要があります。 普段はWindowsのアクセサリの関数電卓で計算しています(これがまた便利なようで不便で)。 PC上の電卓ではなく普通の簡単に持ち運べる電卓があればいいなと思います。 16進数の計算(+,/,*,-,XOR,AND,OR程度が計算できるとありがたい)及び10進数及び2進数への変換ができる機能を持った電卓ってご存じないでしょうか? 市販の関数電卓は上記機能を有しているのでしょうか? できれば数千円ぐらいで購入したいです。 教えてください。

  • 付属の電卓で、パーセンテージの計算をしたい。

    1000円の10%がいくらなのかを、win7付属の電卓で計算するにはどうすればいいでしょうか? 1000*0.1 でもできますが、 1000*10%と打つ方法が知りたいです。 「1000*10」までテンキーで打ち、「%」だけマウスでクリックしても 10が100になるだけです。 「1000*10」までテンキーで打ち、 キーボードの「5」「%」をおしても、同じです。

  • 電卓を探しています

    仕事で仕入れ原価にを0.6で割り消費税1.05を掛けて売値を出す計算をするのですが(例えば原価10万円の場合10万/0.75*1.05という計算)毎回、電卓でこの計算をするのがめんどくさいので簡単にできる電卓はないでしょうか? エクセルのように関数を作っておき、特定のボタンに割り当て原価を入力しそのボタンを押すだけで売値を出せるようにしたいのですが関数電卓なら可能なのでしょうか?

  • 電卓における「乗算器の回路」と「2進法・10進法間の変換」

    電卓のしくみを調べています。 以下のことはわかりました。 A.計算には2進法を利用している(引き算には2の補数を利用している) B.全加算器、乗算器などをAND回路、OR回路などをつかって実現している そこで2点知りたいことがでてきました。 1.乗算器の計算のしくみは、 http://www-lab.ee.uec.ac.jp/text/arithmetic/serial.html をみてなんとなくわかったのですが、AND回路、OR回路などをつかった具体的な回路がいまいちイメージできません。 乗算器の回路を図で表し、詳しく解説したサイトがあれば教えてください。 2.電卓では入力と出力が10進法ですが、具体的な計算は2進法でやっているということはわかりました。しかし、入力した10進法を2進法に直す回路や、計算結果の2進法を10進法として出力する回路がわかりません。 その回路を図で表し、詳しく説明したサイトがあれば教えてください。 もしそういったサイトがない場合は、これらを解説した書籍を紹介していただければありがたいです。 よろしくお願いします。