- ベストアンサー
7÷7=0.9999・・・！？
Terios19の回答
- Terios19
- ベストアンサー率58% (10/17)
saiumalseiさん 1/7=0.142857142857... 0.142857142857...*7=0.999999999... ということを言っているんでしょうね。 よく1/9*9=0.1111111....*9=0.999999.....というのが 話のネタででてきますが、数学的には0.9999...=1ということになっています。 ご参考まで。
noname#235638
関連するQ&A
- INT関数について アクセス２０００です
いつもお世話になります。 アクセス２０００を使用しております。 テーブルに８．２と３６００の数字が格納されています。 フィールドサイズは倍精度浮動小数点型です。 クエリーをつかって積を求めると、通常に計算すると２９５２０が表示されます。その他の計算結果で少数点以下が出てきますので小数点以下を切り捨てたいのでＩＮＴ関数を使うと２９５１９と表示されます。 本来ＩＮＴ関数は、２９５２０に対しては２９５２０を返すと思うのですが、どうしたらいいのでしょうか。 小数点以下を切り捨てる方法を教えてください。
- ベストアンサー
- オフィス系ソフト
- エクセルでそれぞれ1000倍して合計する配列？式はありますか？
No.652904 「質問：エクセルは少数点以下の計算が苦手？ 」でわかったことから、小数の計算（合計）を小数ではなくして行おうと思います。 A1セルからA20セルに入力された数値（小数または整数）をそれぞれ1000倍してA21セルに出したいのです。 それぞれに1000倍する作業列を作って合計すればできるのはわかりますが、できれば作業列なしでやりたいのです。 多分「配列計算」だと思うのですが、「配列」は今までやったことがないのでわかりません。 どのような計算式になるのでしょうか？
- ベストアンサー
- オフィス系ソフト
- 小数点以下の検知
とつぜん失礼します。VB.Netを使用しています。 計算結果が小数点以下 たとえば"25.6"だった場合10倍して整数化する プログラムを書きたいのですが、調べてもわかりません。 すみませんが誰かお教えください。
- ベストアンサー
- Visual Basic
- 税込商品の値引計算について（消費税8%）
お世話になってます。 税込商品の値引が存在した場合の計算式についてあっているのかわからないため、質問させてください。 質問は、税込価格の値引があった場合に、消費税額を一旦求めた後に、 値引を計算した方がいいのかという点と、値引したときの小数点の扱いがわかりません… 例えば、税込価格10586円の商品を30%値引で販売する場合 (1)税込価格から税額を計算する 10586*8/108＝784（小数点以下切り捨て） (2)税込価格から税額をマイナスする 10586-784＝9802 (3)上記(1)で値引30%を計算する 784*0.3＝235.2＝235（小数点以下切り捨て？？） (4)上記(1)で値引30%を計算する 9802*0.3＝2940.6＝2940（小数点以下切り捨て？？） (5)販売価格を計算する (9802-2940)+(784-235)=7411 そもそもこの計算方法が正しいのか。計算の順番は正しいのか。 有識者様からのご意見お待ちしております。
- 締切済み
- 会計ソフト
- エクセルで、小数点以下を切り捨てたい。
エクセルで、小数点以下を切り捨てたい。 商品販売をしていて、卸価格などの表を自動計算で出るように表を作ったのですが 計算式が、小数点以下まで計算していて金額が合わない表示になってしまいます。 小数点以下を切り捨てて、表示・計算させることはできるのでしょうか。
- ベストアンサー
- オフィス系ソフト
- 小数点の誤差をなくすのは可能？[ExcelとPHP]
PHPとExcelのワークシート関数を使って小数点の演算を行い、 両者が正しい値を返しているかを比較しているのですが、 どうしても計算が合いません。 例えば、次のような計算です(小数点は少数点以下第4位まで に統一されています)。 0.0034×0.2313×1.7423=?? PHPとExcelのそれぞれにおいて、小数点以下の計算に限界が あるのは、理解しました。 ということは、PHPとExcelで上記のような計算を正しく同じ値にするのは不可能なのでしょうか？ それとも、PHPとExcelのそれぞれにおいて、ROUND関数などを駆使 すれば解決可能なのでしょうか？ 演算の工夫で解決できる問題なのか、そもそも不可能な問題なのか を教えていただけたら幸いです。
- ベストアンサー
- その他([技術者向] コンピューター)
- エクセルで小数点以下3桁を四捨五入して、小数点以下1桁を表示する方法
エクセル2003を使用しています。 計算式から出た結果に対して、小数点以下3桁を四捨五入して、小数点以下2桁ではなく、1桁を表示したいです。 例えば、計算式の結果、 1.145 の場合、普通に四捨五入すると 小数点以下1桁なら、1.1 小数点以下2桁なら、1.15 となってしまいます。 これを小数点以下3桁を四捨五入して、小数点以下１桁表示の1.2と表示させたいのですが、可能でしょうか？
- ベストアンサー
- オフィス系ソフト
- 小数点2ケタ以下切り捨てする関数式は？？
以下のような計算をエクセル上で行いたいと思います。 １－(（Ａ１+B1）/C1) という計算式の答えを10倍して、かつ小数点2ケタ以下切り捨て をＤ１に自動で表示されるようにしたいと考えています。 Ｄ１に表示すべき関数式を教えてくれますでしょうか？？
- ベストアンサー
- その他MS Office製品
- Access97 Int関数
小数点の切り捨てをしたくてクエリーで 以下の計算をしてみました。 =Int([個数]*[単価]) ところが以下の数値で計算させると結果が 50232となると思うのですが50231となってしまいます。 数量：460 単価：109.2 結果：50231（電卓で計算すると50232） 結果が小数点になるときは問題ないようです。 使い方が間違っているのでしょうか。 こういう場合Int関数を使うのが誤りなのでしょうか？ だとしたら他に当てはまる関数があるのでしょうか？ ちなみにテーブルの定義としては 数量：長整数型（小数点以下桁数０） 単価：単精度浮動小数点型（小数点以下桁数０） となっていますが小数点は表示されています。
- ベストアンサー
- オフィス系ソフト
- アクセスのデータ型。数値型についてお聞きしたいのですが・・・
アクセスのデータ型。「数値型」ですが、「フィールドサイズ」に (1)バイト型（0～255の範囲。小数点以下の数値は扱えない） (2)整数型（-32,768～32,767の範囲。小数点以下は扱えない） (3)長整数型（-2,147,483,648～2,147,483,647の範囲。小数点以下は扱えない） (4)単精度浮動小数点型（-3.402823×10^38～3.402823×10^38の範囲。 小数点以下の数値が扱える） (5)倍精度浮動小数点型（-1.79769313486231×10^308～-1.79769313486231× 10^308の範囲。少数点以下の数値が扱える） (6)十進型（-10^28-1～10^28-1の範囲。小数点以下の数値が扱える） と６種類決められますが、それぞれの「選び方の違い」と「その理由」を 教えてください。 たとえば、(1)～(3)くらいなら分かります。 扱える数値の桁数が違うということですよね？で、(1)～(3)を選ぶ時と(4)～(6)を 選ぶときで大きな違いというと、「小数点以下の数値が扱えるかどうか」 ですよね？そういう認識であっているか・・・ということと、上記の(1)～(6)を 「選び分ける必要がある場合」というのを教えてください。 なぜ、このような６種類に分かれているのか、人に説明しないとなりません。 よろしくお願い致します。m(＿ ＿)m
- ベストアンサー
- オフィス系ソフト