- ベストアンサー
double型の足し算でおかしな答えになる事例
bajutsuの回答
- bajutsu
- ベストアンサー率20% (139/693)
浮動小数点だから。 Excelでの例だけど、浮動小数点の誤差について解説されています。 http://pc.nikkeibp.co.jp/pc21/special/gosa/eg4.shtml
関連するQ&A
- プログラミングは初心者なため、doubleについての問題がまったく分か
プログラミングは初心者なため、doubleについての問題がまったく分かりません・・・。できるだけ初心者にも分かりやすく簡単に回答していただけると幸いです。 １、double型の変数で扱える桁数を超えた桁数の数値を、double型の変数に入れると、制限を超えた桁数の部分がどのように扱われるか答えよ。 ２、なぜ上記の１、ようにdoubleに制限があるかについて理由を答えよ。 回答お願いします！！
- ベストアンサー
- Visual Basic
- 文字列連結中の足し算
ＪＡＶＡ初心者です。 表記の通り、文字列連結中の足し算はどの様にすれば良いのでしょうか。 System.out.println("現在のカウンター値は" + cnt + 1 + "です。"); 上記の様な場合、cntが0だと、 "現在のカウンター値は01です。" と表示されますよね。これを、 "現在のカウンター値は1です。" としたいのです。やはり一旦、別変数で計算後、出力するべきなのでしょうか。
- ベストアンサー
- Java
- エクセルで表計算の答がダブルクリックしないと出ません
エクセルで、例えば 「＝ＳＵＭ（Ａ１＋Ａ２）」とＡ３のセルに打ち込みますよね？ で、Ａ１やＡ２の数値を変更すると、 答の出るＡ３のセルも自動的に数値が変更されていたのですが、 気付いたら、Ａ３（答）のセルをダブルクリックして、 enterを押さないと数値が変更されなくなっていました。 計算式は上のバーに表示もされるし問題ないようですが、 どうしたら元に戻せるでしょうか？ どうぞよろしくお願い致します。
- ベストアンサー
- オフィス系ソフト
- C#のTextboxについて
string a; a="Textbox1" double b =double.Parse(a)-10.0 上記のようにプログラムを書きました。 bという変数に（Textbox1に記載してある数値-10）を代入したいのですがエラーが出てしまいました。 間違いがわかりません。 わかるかたがいましたら、教えていただけないでしょうか？ よろしくお願いいたします。
- ベストアンサー
- C・C++・C#
- クラス変数について質問
Javaのオブジェクト指向を解説した参考書で現在勉強しているのですが、その参考書のある問題の答えの解説として「クラス変数は参照変数なので参照以外を代入できません」と書いてありました。 でも、例えば、static int n＝0と書けば、0をnに代入できます。 因みに、「クラス型の変数」は参照しか代入できないのはわかっています。 よって「クラス変数」は誤植で、正しくは「クラス型変数」なのでしょうか？
- ベストアンサー
- Java
- VBA "double"から0.1を引くと・・・
エクセルVBAですが、double型で変数を定義し、-80を代入します。 そこから0.1ずつを引いていきます。すると、途中から桁がおかしくなってしまいます。 (注：別に-80からでなくても、どの値からでも、また、引いていっても足していっても、遅かれ早かれ どこかから桁がおかしくなってしまいます。) -80 -80.1 -80.2 …中略 -80.8 -80.8999999999999 -80.9999999999999 … といった感じです。 どうしてこのようになってしまうのでしょうか。 また、このようにならないためにはどうしたらよいのでしょうか。 いかにサンプルプログラムを載せます。 ------------------------------------------ Sub test() Dim test As Double Dim i As Integer test = -80 For i = 1 To 100 test = test - 0.1 Cells(i, 1) = test Next i End Sub ----------------------------------
- ベストアンサー
- Visual Basic
- ラッパークラスのvalueOfメソッドについて
あるテキストで、「int i = Integer.valueOf("10");」はvalueOfメソッドの戻り値型がIntegerであるにも関わらずint型変数に代入しようとしているためにコンパイルエラーになると解説されていました。 しかし、実際にコードを書いてみると、上記のコードはコンパイルが通ります。（代入時にアンボクシングされているということでしょうか） テキストはJava2 Platform5.0のものなので、Java SE6で何かしら仕様が変更されているのかと思ったのですが、どなたか詳しい方、解説をお願いします。
- ベストアンサー
- Java
- プラス演算子の使い方
このサイトでjavascriptを勉強中です。 http://www.red.oit-net.jp/tatsuya/java/alert.htm 掛け算の出題フォームにランダムな整数（1～9）を入れて 入力された値の可否をアラートで出すというプログラムです。 不正解だった場合、 「はずれ ！ こたえは "+myKotae+" です！」 と表示されるのですが、なぜ myKotae の前後に 『 + 』がついているのかわかりません。 確かに + を取って、"myKotae"だけにすると正しく動作しません。 javascriptで『 + 』がどんな働きをするのか調べたら 数値を足したり文字列をつなげたりするとありました。 使い方の例には変数や数値の前に + を付けているものはありましたが 前後につけているものはなかったので混乱しています。 なぜ"myKotae"だとダメなんですか？ 初心者にもやさしく解説してくださる方からの回答お待ちしております。 よろしくお願いいたします。
- ベストアンサー
- JavaScript
- C++ インラインアセンブラでdoubleの計算
プログラム初心者です。 インラインアセンブラで浮動小数点を計算したいのですが、 計算出来ません。fmov、faddで浮動小数点演算が可能との事ですが。 整数の演算と同様では計算できないのでしょうか？ 下記の様にまず、aとbを足し算をしてみました。 double a=2.1; double b=1.1; __asm{ fmov st1,a fmov st2,b fadd st1,st2 fmov a,st1 } cout << a << endl;
- ベストアンサー
- C・C++・C#
- Javaで、変数をつなげて表示することは可能ですか？
Javaで、変数をつなげて表示することは可能ですか？ 最近Javaを学び始めた、Java初心者です。 PHPで、二つの変数（数値）を echo $変数１.$変数２; で、変数１と変数２をつなげて表示できるように Javaで変数（int型やdouble型）をつなげて表示（変数の結合？）することは可能でしょうか？ もしくは System.out.println(変数１+""+変数２); や System.out.println(変数１+" "+変数２）; または、 print を二回使う のようなやり方でないとできないのでしょうか？ 特にこれを使ってやりたいということがあるわけではありませんが 気になったので質問させて頂きました。
- ベストアンサー
- Java