- ベストアンサー
INT関数のバグ?
suna4903の回答
- suna4903
- ベストアンサー率40% (13/32)
使っているアプリケーションがわからないのではずしているかもしれませんが、プログラム言語を使っているのであれば、数値1、数値2の型が浮動小数点数型などを使っているのではないでしょうか? VBであれば、Currencyなどを使えば発生しないと思います。
関連するQ&A
- Access97 Int関数
小数点の切り捨てをしたくてクエリーで 以下の計算をしてみました。 =Int([個数]*[単価]) ところが以下の数値で計算させると結果が 50232となると思うのですが50231となってしまいます。 数量:460 単価:109.2 結果:50231(電卓で計算すると50232) 結果が小数点になるときは問題ないようです。 使い方が間違っているのでしょうか。 こういう場合Int関数を使うのが誤りなのでしょうか? だとしたら他に当てはまる関数があるのでしょうか? ちなみにテーブルの定義としては 数量:長整数型(小数点以下桁数0) 単価:単精度浮動小数点型(小数点以下桁数0) となっていますが小数点は表示されています。
- ベストアンサー
- オフィス系ソフト
- awk の int()に関数について
数値処理でawkを使い始めているのですが, int関数を使って小数を切り捨てたいのですが, 以下のような現象が起こって困っています。 print int(9.53*100) 952 ? print int(9.53*1000) 9530 OK print int(65.52*1000) 65519 ? print int(65.52*1000.0+0.1) 65520 ? int関数はどういう動作をするのかどなたかご教示いただけますでしょうか。 お願いいたします。
- ベストアンサー
- その他(プログラミング・開発)
- Excel 四捨五入の関数?
次のような処理を行いたいのですが、関数がわかりません。 (1)数値の下三桁が500以上(500~999)だったら、1000にする。 (2)数値の下三桁が500以下(1~499)だったら、0にする。 (1)と(2)をIF文なんかでやれるといいのですが・・・。 お分かりになる方、教えてください。 よろしくお願いします。
- 締切済み
- オフィス系ソフト
- EXCELのINT関数・ROUNDDOWN関数について
情報処理の問題で関数を使うように指示されました。 「国税=分配金×0.07(整数未満切り捨て)地方税=分配金×0.03(整数未満切り捨て)」 私はINT関数を使い答えを出しましたが、回答はROUDDOWN関数を使っています。 整数未満切捨ての場合は、INT関数を使うのがいいと思うのですが、ROUDDOWN関数を使うほうがいいのでしょうか。
- ベストアンサー
- オフィス系ソフト
- 数値型にしたい
品番と数量があるクエリがありこちらをテーブル作成する際に数値型にしたいです。 データ上 数量が四桁で710が0710となっています。 関数とか使うのでしょうか
- ベストアンサー
- その他MS Office製品
- INT関数について アクセス2000です
いつもお世話になります。 アクセス2000を使用しております。 テーブルに8.2と3600の数字が格納されています。 フィールドサイズは倍精度浮動小数点型です。 クエリーをつかって積を求めると、通常に計算すると29520が表示されます。その他の計算結果で少数点以下が出てきますので小数点以下を切り捨てたいのでINT関数を使うと29519と表示されます。 本来INT関数は、29520に対しては29520を返すと思うのですが、どうしたらいいのでしょうか。 小数点以下を切り捨てる方法を教えてください。
- ベストアンサー
- オフィス系ソフト
- EXCELの関数、INT関数とROUNDDOWN関数の使いわけ
EXCELの関数、INT関数とROUNDDOWN関数はどういうときに使い分けをするのでしょうか?教えてください。 =INT(8.9)では表示は8 =ROUNDDOWN(8.9,0)では表示は8 と同じ結果が得られますよね。 どういった時に使い分けをするのでしょうか?
- 締切済み
- オフィス系ソフト
- ExcelのINT関数の計算結果がおかしい。
ExcelのINT関数というよりも表計算ソフトのINT関数で 1, INT((4.645*100-464)*10)の結果は4 2, INT((464.5-464)*10)の結果は5 3, INT((4.745*100-464)*10)の結果は5 4, INT((474.5-464)*10)の結果は5 になってしまいます、これはWIn版Excel2000,2002,2007,Mac版2004 openoffice.org 2.2 google のスプレッドシート ExcelのVBAで同じ結果になりました。VB2005では1も結果が5になります。 ここで検索したところでは表計算ソフトは循環小数になった場合14桁で四捨五入するというようなことが書かれていますが、この場合4.645*10と464.5の違いだけなのでそれも当てはまらないように思えるのですが、また1と3で違いが内容に思えるのですが、どうしてこのようなことが起こるのでしょうか。教えてください。
- 締切済み
- オフィス系ソフト
補足
申し訳ありませんACCESS2000です。 データ型は倍精度浮動小数点数型を使用しています。