- ベストアンサー
どうしたらいいですか？
khurataの回答
- khurata
- ベストアンサー率40% (54/134)
Cの double型は内部的には 2進数ですので（ほぼ全ての処理系でそうなっているはずです）、小数を扱うと誤差が生じるケースがあるはずです。 なので、キーボードから入力された小数を数値ではなく、まずは文字列として受け取り、小数点の右側と左側をそれぞれ整数型に変換して、それぞれ独立した計算処理をするのが、より厳密で、理想に近い処理と言えます。 ただ、そこまでの精度が必要無ければ、#1の回答のように 10.0倍して処理すれば良いと思います。
関連するQ&A
- 中学受験 がい数の問題
《質問》ある整数を６で割った商の少数第１位を四捨五入すると６になり、同じ整数を８で割った商の少数第１位を四捨五入すると４になります。ある整数は（ ）です。（すべて求めなさい。 《答え》33、34、35 この問題をどのように解き進めていけばよいのか、解説をお願いしますm(_ _)m
- ベストアンサー
- 数学・算数
- エクセルの使い方
エクセルの使い方を教えてください。 大変初歩的なことですが、お願いいたします。 エクセルの表計算で、少数以下の掛け算で合計の数字が少数点以下まで表示されます。 この数値を四捨五入にして、整数にし、さらにこの数値に数値をかけます。 ただ、この四捨五入した数値を整数とは認識せず、少数以下の数値で計算するため、求めたい数値になりません。 この四捨五入した数値を整数と認識するための方法をおしえてください。
- ベストアンサー
- Windows XP
- 或る列に整数部３桁少数桁２桁の数値が並んでおります。これを少数点第一位
或る列に整数部３桁少数桁２桁の数値が並んでおります。これを少数点第一位で四捨五入した値（整数）にしたいのですがどのような方法がありますでしょうか？ お解りの方がおられたら教えてください。 宜しくお願いします。
- ベストアンサー
- その他MS Office製品
- VB6 丸めるとは?
VB6で、 Mod演算子のMSDNヘルプを見てみると、 「演算結果は整数に丸められる」 とあります。 例として19 Mod 6.6は5.8ですが5になってしまいます。 また、CInt関数について同じくヘルプで調べてみると、 「少数部分は丸められます」 とあり、CInt(5.8)とすると6となってしまいます。 質問なのですが、 「丸める」と一口にいっても、四捨五入したり、切り捨てたりといろいろあるのだという認識であっているでしょうか？ CIntなら小数部は四捨五入され、Modならいかなる数字であろうと小数部は切り捨てられる、ということでよいでしょうか？
- ベストアンサー
- Visual Basic
- javaでの金額の丸めについて（至急、お願いします
調べ方が足りていないのかもしれませんが、 わかりませんでした。教えていただけないでしょうか。 金額の丸め処理をしたいのですが、どのように書けばいいのかわかりません。 金額は、もちろんマイナス表記もあります。 100円単位の切捨て、切上げ、四捨五入 1000円単位の切捨て、切上げ、四捨五入 少数以下の処理は、いろいろとサンプルがあったのですが・・・・ どなたかご教授願います。
- ベストアンサー
- Java
- エクセル・整数未満切捨ての処理について
情報処理技能検定、表計算（エクセル）３級模擬の問題について おたずねします。 整数未満切り捨ての処理を、すでにした列に 「平均（整数未満四捨五入の表示）」、「最高」、「最低」 の値を、左からオートフィルすると、 たとえば、９９．１と出た場合、 どう処理したら、９９（整数未満切り捨て）になりますか？ ご存知の方がいらっしゃいましたら、ご教示下さい。 よろしくおねがいします。
- ベストアンサー
- オフィス系ソフト
お礼
まず文字式でやるという方法もあるんですか。又チャレンジしてみます！とりあえず今回は10倍で行こうと思います。 回答ありがとうございました。