- ベストアンサー
30分の1秒とは
tekcycleの回答
- tekcycle
- ベストアンサー率34% (1839/5289)
１÷３＝0.33333333・・・・・・・・・・・・・ の時点で既に区切りはないのです。 だから区切りをつけてはいけません。 どうしても区切るのなら、 １÷３＝0.333＋0.001／３ として後の計算をするとか。 あるいは、有効桁数という考え方があります。 循環小数に限ったことではありませんが、たとえば10cm四方の紙をはさみで楯に１／３に切ろう、という場合、はさみで切るくらいですから精度はたかが知れています。 なのに百万分の１の精度で計算してみても無意味なのです。 0.1mmくらいなら何とか制御できるとすると、せいぜい小数点３桁まで出しておけば十分だということになります。 これがもっと精度が必要な話だと、更に小数点何桁まで計算、ということになるでしょう。 計算の仕方も、0.333mm×0.333秒のような計算をするより、元の1/3×1/3から計算し直した方がずっと良いとは言えます。 精度を上げたければ精度が上がるような計算の仕方をすればよいのです。 わざわざ余りを無視したり無限小数であることを無視して精度を落とすような計算をする必要はないのです。 １÷３×６を0.33333×２と計算せずに、１×６÷３で、６÷３と計算すればそれだけで精度が上がります。 例えば0.333が他人の提供データで元の式が判らない場合は、その桁数で十分な精度が得られるかどうか考えることになるでしょう。 これでも納得が行かないなら、分数式にもできない、元の式も判らない、有効桁数を考えるのではなく厳密な値が必要だ、という実例があれば出してみてください。
関連するQ&A
- 小学三年生の算数について
姪っ子の算数をみてあげていて、学校の宿題で割り切れないわり算というのが出題されていました。 例、２１÷５＝４…１ になりますが、その中で ８÷９＝？ というのがありました。 教科書を見たのですが、前の数字が大きいものばかりで(０÷６＝０というのはありましたが)例として良い答えを見つける事ができませんでした。その為、どう答えをだしたら良いのか分かりません。 分数はまだですし、小数点で求めるのか、それならばどこまで求めるのか。小数点も習ってはいるようですが、割り切れない計算を小数点に…計算…という複雑なのは教科書には出ていません。簡単な計算のみです。 割れないというのか…。０というのか…。 小学三年生での正しい答え、わかる方いらっしゃいましたらお教え頂けたらと思います。
- 締切済み
- その他（学問・教育）
- この方法を教えてください。
youtube動画を見ている時に下に赤いバーの隣に秒数が書いてありますよね。 しかし小数点表示までされていないので、どのようにすれば小数点まで秒数が表示されるか教えてください。
- 締切済み
- 画像・動画・音楽編集
- Access にて "mm:ss.0" 形式の 秒数を算出する方法
現在、Accessにて "mm:ss.0" 形式 の時刻データを秒数に変換する クエリの作成を試みていますが、小数点以下の秒数の算出方法が わからず困っています。 (MS-Access 2002) Excelでsecond関数を使用し、秒数を算出した場合は以下の通り、 秒数により小数点以下の扱いが異なります。 <Excelにてsecond関数を使用して秒数を計算した結果> ・00:13.5 …… 14秒(少数が丸められる) ・00:14.5 …… 14秒(少数が切り捨てられる) ・00:14.6 …… 14秒(少数が丸められる) Accessでは"mm:ss.0" というフォーマットが見当たらず、 Second関数も「抽出条件でデータ型が一致しません」と エラーとなってしまいます。 参考までに試行錯誤の軌跡を載せますが、以下のようなクエリを 作成しても、小数点の丸め処理が秒数によって.5と.6の場合があり、 やはり誤差が出てしまいます。 ** Val(Left([時刻], 2)) * 60 + Val(Mid([時刻],4 , 2)) + Round(Val(Right([時刻], 1)) / 10, 0) ※[時刻]カラムは"mm:ss.0"形式の文字列 ** AccessのクエリにてExcelのsecond関数と同様の結果を 得るにはどのようにすればよろしいでしょうか。
- ベストアンサー
- その他(データベース)
- 計算の丸め誤差の解消について
プログラム上で計算するときに丸め誤差が発生し、困っています。 丸め誤差が発生している計算は -0.004+0.006+0.002 なのですが、 -0.004+0.006+0.002=0 となるところが、 =8.47E-09 となってしまっています。 オーダーの異なる計算ではないにもかかわらず、どうして誤差が発生するのかが理解できず困っています。 上の数値（左辺の方）の算出は、10^(-1)のオーダーの数値から計算されています。 多分、浮動小数点を使っているからだろうと考えているのですが、どのように解消したらよろしいでしょうか？ 固定小数点を用いると、浮動小数点より誤差が少ないとありましたが、Ｃで固定小数点を用いる方法もわからないです。 よろしくお願いします。
- ベストアンサー
- C・C++・C#
- 小学生に説明するとき
私は塾で小学生に算数を教えているのですが、小数×小数、分数÷分数の計算を教えるのに、小学校中学年までに習った既習のやり方で上手く説明できないものかと悩んでいます。どなたか上手く説明する事の出来る方がいらしたら、どうぞ宜しくお願いします。 あわせて、円の面積について、公式を詰め込むだけでない指導法があったらお願いします。
- ベストアンサー
- 数学・算数
- ＣＰＵのクロック周波数が１クロック何秒になるかについて
簡単な問題なのかもしれませんが、 質問させていただきます。 私の通っている学校で課題が出されたのですが、 ＣＰＵのクロック周波数が例えば４、０Ghzだったとき、１クロックが 何秒になるかってどうやって計算すれば分かるでしょうか？ また、小数点ではなく整数で出してくれと言われたのですが・・・ 分かる方いらっしゃったら是非回答お願いします！ 初心者にも分かるように説明していただければ幸せこの上ないです。
- ベストアンサー
- ハードウェア・サーバー
- Exelで時刻計算（秒の数値のみを2倍に）
start stop time 0:03:18 1:49:27 1:46:09 のようにスタートからストップまでのタイムを計算したいのですが、問題は秒の数値が0-30までの2秒単位の数値であることです。 実際のタイムは秒数を2倍して、以下のようになります。 start stop time 0:03:36 1:49:54 1:46:18 今のところ、0:03:00と0:00:18のように時・分と秒とを分けて入力し直して秒数だけを2倍し、後で足し合わせていますが、量も多いし面倒です。 この計算をもう少し簡潔に行うにはどうすればいいでしょうか。
- ベストアンサー
- オフィス系ソフト
- 浮動小数点の計算について
Javaで0.1+0.2を計算すると0.30000000000000004になったり、10.0-9.9を計算すると、0.09999999999999964になったりするのはなぜですか？ 参考書では。 「浮動小数点数を使った計算では、一見正確な値が計算されてるように見えてもほとんど場合内部では少しだけ誤差を含んだ値を持ってると、考えた方がいいでしょう。どのような計算を行った時にどの程度の誤差が出るのかは難しい話題になるのでこの本では詳しく説明しませんが、例えば100.0-99.99のように同じぐらいの数同士で引き算を行うと誤差が現れやすくなります。」 と書いてありました。 この本ではこれだけで説明が終わりました。 なぜ浮動小数点で計算を行うと誤差が出るのか詳しく教えていただけると助かります。
- ベストアンサー
- Java
- 小数の性質についての質問です。
質問1:小数の位の移り変わりについてですが、0.090・・・0.099と続く とき、この0.099の次にくるのはいくつですか？僕の仮説では、 0.1なのですが、、まったくこの仮説に自信がありません。 質問2:0.99＝99/100でしょうか？ 質問3:0.001や0.0001は分数に直すと何分の何でしょうか？ 質問4:0.15×0.172 といった、小数×小数の計算をする時、これを 712×15 と云うように整数に直したり、この計算を小数に 直すとき、「０.７１２は７１２の１０００分の１、０.１ ５は１５の１００分の１」のような考えをする時、どうや って瞬時にこのような整数に直したり小数に直したりする ことができますか？また、上記の計算式では、「１０００×１０ ０＝１０００００で、０の数５つ分小数点を左に移す」のような 行為を行うのですが、なぜこのような行為を行うのですか？ 質問5:小数の位が第1位が第2位に変わったりなど、位が変わる時に、 この位が変わる時の条件はどのようなものがあるのでしょうか？ 質問6:小数の位が変わる時に、小数が10進構造である場合、その10進構 造と小数の位が変わる事とどのような関係があるのでしょうか？ 私は、10進構造に関する質問を以前したのですが、あまり理解で きませんでした。身近な具体例を挙げて説明してくだされば幸い です。 質問7:0.1＝0.10ですか？ 愚問を延々と並べてしまいましたが、切実に悩みに悩んでの質問なので、ご教示していただければ幸いです
- 締切済み
- 数学・算数
お礼
ありがとうございます。 有効桁数と言うのは参考になりました。 ありがとうございます。