- ベストアンサー
RUBY の 分数の 精度
- みんなの回答 (1)
- 専門家の回答
質問者が選んだベストアンサー
例え1000桁にしても、浮動小数点実数型では1.0/3は3分の1にはなりません。計算によっては誤差がどんどん溜まっていきます。 そういう精度が気になる用途なら、Rational を使いましょう。 Rationalは分数型なので、3で割って3倍したら元の数に戻ります。 --- require "rational" def test(value, count) step = value / count sum = value * 0 count.times do sum += step end print step," * ",count," - ",value," = ",(sum - value),"\n" end test(Rational(1), 300) test(1.0, 300) ---
関連するQ&A
- 分数の足し算、引き算
高圧ガスの試験も近づいてきました。 ほとんどの問題が解けるようになりました。 最近では、分数の足し算、引き算が出来る様になりましたが、質問があります。 例えば、1/393-1/373ですが、計算方法は、下記の方法がベストでしょうか? 1÷393=0.00254452926 1÷373=0.00268096514 0.00254452926-0.00268096514=0.0001364588 1桁くらいの分数の足し算、引き算なら通分で出来ますが、桁が大きくなると、 計算機でしか計算出来ませんか?? すみませんが、よろしくお願いします。
- ベストアンサー
- 数学・算数
- エクセルでの分数計算について
エクセルでの分数計算について質問です。 使用ソフトはエクセル2003です。 全てのセルの書式設定はユーザー定義で# ???????????????/???????????????とします。 例えば A1に 0 373/10000 B2に 0 37/500 C1に =A1+B2 と入力すると C1に1113/10000 と表示され、きちんと足し算ができますが、 A1に 0 373/100000 と入力すると C1にきちんと足し算の答えが出てきません。 A1の分母を一桁増やしたとたんできなくなってしまい困っています。 分母が億単位の分数の足し算がしたかったので、 解決方法がわかる方はぜひともご回答お願いいたします。
- 締切済み
- オフィス系ソフト
- 分数の足し算なのですが、ちょっと混乱してしまったので教えてください。
分数の足し算なのですが、ちょっと混乱してしまったので教えてください。 3と1/3+2と5/12などのような足し算は(3+2)+(4/12+5/12)=5と9/12のように計算して良いのでしょうか?
- ベストアンサー
- 数学・算数
- 分数教えてください。
●1/5より大きく、1/4より小さい分数で、分母が一けたのものは? ●6/7と7/9の間の数で、分子が13になる分数は? ●109/? は6/11より大きく、5/9より小さい分数です。(?にあてはまる正数をすべて求める) 算数教えてください。お願いします。
- ベストアンサー
- 数学・算数