締切済み

ruby の BigDecimal を 使った計算

  • 困ってます
  • 質問No.5673881
  • 閲覧数835
  • ありがとう数8
  • 気になる数0
  • 回答数5
  • コメント数0

お礼率 10% (18/171)

ruby の BigDecimal を 使った計算 をしたいです。
そこで

1/7をBigDecimalでどうやって計算するのか見せてほしいです。
精度を1000桁でお願いします。

回答 (全5件)

  • 回答No.5

ベストアンサー率 48% (4404/9069)

Rubyの入門書は何か読んでますか?

BigDecimalライブラリを使うという話なので、

require "bigdecimal"

を書かないといけません。
  • 回答No.4

ベストアンサー率 48% (4404/9069)

>”1”と”7”のところが青くなりました。

意味がわかりません。

結果は望み通り表示されましたか?
補足コメント
aaaiiyuda

お礼率 10% (18/171)

big1=BigDecimal("1",1000)
big7=BigDecimal("7",1000)

puts big1/big7

これを計算させましたが、NoMethodErrorとなり表示されませんでした。
投稿日時 - 2010-02-13 22:03:05
  • 回答No.3

ベストアンサー率 18% (216/1139)

>puts (1.0 / 300)**600
>これを計算させると。0.0になってしまいます。

そうでしょうね。
  • 回答No.2

ベストアンサー率 48% (4404/9069)

簡単には、数値をすべて BigDecimal("1",1000) のように値と有効桁数で表して、あとは普通に計算します。

big1=BigDecimal("1",1000)
big7=BigDecimal("7",1000)

puts big1/big7

きちんとやるにはマニュアルを参照してください。マニュアルを理解するには「有効数値とはどういうことか」の知識が要りますが、そのあたりは大丈夫ですよね。
http://www.ruby-lang.org/ja/man/html/BigDecimal.html
補足コメント
aaaiiyuda

お礼率 10% (18/171)

最後に、この文章をルビーで計算したら
”1”と”7”のところが青くなりました。
これは何か設定が必要なのでしょうか?
投稿日時 - 2010-02-13 21:27:48
  • 回答No.1

ベストアンサー率 18% (216/1139)

何がわからないかをもっと具体的に補足にどうぞ
補足コメント
aaaiiyuda

お礼率 10% (18/171)

puts (1.0 / 300)**600
これを計算させると。0.0になってしまいます。
これを1000桁まで計算させたいです。
投稿日時 - 2010-02-13 21:10:29
結果を報告する
このQ&Aにはまだコメントがありません。
あなたの思ったこと、知っていることをここにコメントしてみましょう。
AIエージェント「あい」

こんにちは。AIエージェントの「あい」です。
あなたの悩みに、OKWAVE 3,500万件のQ&Aを分析して最適な回答をご提案します。

その他の関連するQ&A、テーマをキーワードで探す

キーワードでQ&A、テーマを検索する

ピックアップ

ページ先頭へ