- ベストアンサー
30分の1秒とは
何かを表示する時に30分の1秒で表示するとして 例えば3秒たつと90分の3秒になりますが小数点になおすと 2.97秒になり誤差がうまれますが、どうして30分の1秒で考えると 誤差がうまれないのでしょうか?? 3秒たつときに小数点で考えれば0.999×3で計算しますが 30分の1秒を無理やり小数点で考えると30個の中のどれかが0.034 になり0.9999秒にはならず、ぴったり1秒になっているから分数で 考えれば秒数がいくらたっても誤差は出ないと言う事でしょうか?? 小学生の様な質問ですが回答して頂けると非常にありがたいです。
- みんなの回答 (17)
- 専門家の回答
質問者が選んだベストアンサー
その他の回答 (16)
- tekcycle
- ベストアンサー率34% (1839/5289)
- Ama430
- ベストアンサー率38% (586/1527)
- edomin
- ベストアンサー率32% (327/1003)
- Ama430
- ベストアンサー率38% (586/1527)
- edomin
- ベストアンサー率32% (327/1003)
- edomin
- ベストアンサー率32% (327/1003)
- Ama430
- ベストアンサー率38% (586/1527)
- Ama430
- ベストアンサー率38% (586/1527)
- renton
- ベストアンサー率34% (1720/4934)
- Cupper
- ベストアンサー率32% (2123/6444)
- 1
- 2
関連するQ&A
- 小学三年生の算数について
姪っ子の算数をみてあげていて、学校の宿題で割り切れないわり算というのが出題されていました。 例、21÷5=4…1 になりますが、その中で 8÷9=? というのがありました。 教科書を見たのですが、前の数字が大きいものばかりで(0÷6=0というのはありましたが)例として良い答えを見つける事ができませんでした。その為、どう答えをだしたら良いのか分かりません。 分数はまだですし、小数点で求めるのか、それならばどこまで求めるのか。小数点も習ってはいるようですが、割り切れない計算を小数点に…計算…という複雑なのは教科書には出ていません。簡単な計算のみです。 割れないというのか…。0というのか…。 小学三年生での正しい答え、わかる方いらっしゃいましたらお教え頂けたらと思います。
- 締切済み
- その他(学問・教育)
- この方法を教えてください。
youtube動画を見ている時に下に赤いバーの隣に秒数が書いてありますよね。 しかし小数点表示までされていないので、どのようにすれば小数点まで秒数が表示されるか教えてください。
- 締切済み
- 画像・動画・音楽編集
- Access にて "mm:ss.0" 形式の 秒数を算出する方法
現在、Accessにて "mm:ss.0" 形式 の時刻データを秒数に変換する クエリの作成を試みていますが、小数点以下の秒数の算出方法が わからず困っています。 (MS-Access 2002) Excelでsecond関数を使用し、秒数を算出した場合は以下の通り、 秒数により小数点以下の扱いが異なります。 <Excelにてsecond関数を使用して秒数を計算した結果> ・00:13.5 …… 14秒(少数が丸められる) ・00:14.5 …… 14秒(少数が切り捨てられる) ・00:14.6 …… 14秒(少数が丸められる) Accessでは"mm:ss.0" というフォーマットが見当たらず、 Second関数も「抽出条件でデータ型が一致しません」と エラーとなってしまいます。 参考までに試行錯誤の軌跡を載せますが、以下のようなクエリを 作成しても、小数点の丸め処理が秒数によって.5と.6の場合があり、 やはり誤差が出てしまいます。 ** Val(Left([時刻], 2)) * 60 + Val(Mid([時刻],4 , 2)) + Round(Val(Right([時刻], 1)) / 10, 0) ※[時刻]カラムは"mm:ss.0"形式の文字列 ** AccessのクエリにてExcelのsecond関数と同様の結果を 得るにはどのようにすればよろしいでしょうか。
- ベストアンサー
- その他(データベース)
- 計算の丸め誤差の解消について
プログラム上で計算するときに丸め誤差が発生し、困っています。 丸め誤差が発生している計算は -0.004+0.006+0.002 なのですが、 -0.004+0.006+0.002=0 となるところが、 =8.47E-09 となってしまっています。 オーダーの異なる計算ではないにもかかわらず、どうして誤差が発生するのかが理解できず困っています。 上の数値(左辺の方)の算出は、10^(-1)のオーダーの数値から計算されています。 多分、浮動小数点を使っているからだろうと考えているのですが、どのように解消したらよろしいでしょうか? 固定小数点を用いると、浮動小数点より誤差が少ないとありましたが、Cで固定小数点を用いる方法もわからないです。 よろしくお願いします。
- ベストアンサー
- C・C++・C#
- 小学生に説明するとき
私は塾で小学生に算数を教えているのですが、小数×小数、分数÷分数の計算を教えるのに、小学校中学年までに習った既習のやり方で上手く説明できないものかと悩んでいます。どなたか上手く説明する事の出来る方がいらしたら、どうぞ宜しくお願いします。 あわせて、円の面積について、公式を詰め込むだけでない指導法があったらお願いします。
- ベストアンサー
- 数学・算数
- CPUのクロック周波数が1クロック何秒になるかについて
簡単な問題なのかもしれませんが、 質問させていただきます。 私の通っている学校で課題が出されたのですが、 CPUのクロック周波数が例えば4、0Ghzだったとき、1クロックが 何秒になるかってどうやって計算すれば分かるでしょうか? また、小数点ではなく整数で出してくれと言われたのですが・・・ 分かる方いらっしゃったら是非回答お願いします! 初心者にも分かるように説明していただければ幸せこの上ないです。
- ベストアンサー
- ハードウェア・サーバー
- Exelで時刻計算(秒の数値のみを2倍に)
start stop time 0:03:18 1:49:27 1:46:09 のようにスタートからストップまでのタイムを計算したいのですが、問題は秒の数値が0-30までの2秒単位の数値であることです。 実際のタイムは秒数を2倍して、以下のようになります。 start stop time 0:03:36 1:49:54 1:46:18 今のところ、0:03:00と0:00:18のように時・分と秒とを分けて入力し直して秒数だけを2倍し、後で足し合わせていますが、量も多いし面倒です。 この計算をもう少し簡潔に行うにはどうすればいいでしょうか。
- ベストアンサー
- オフィス系ソフト
- 浮動小数点の計算について
Javaで0.1+0.2を計算すると0.30000000000000004になったり、10.0-9.9を計算すると、0.09999999999999964になったりするのはなぜですか? 参考書では。 「浮動小数点数を使った計算では、一見正確な値が計算されてるように見えてもほとんど場合内部では少しだけ誤差を含んだ値を持ってると、考えた方がいいでしょう。どのような計算を行った時にどの程度の誤差が出るのかは難しい話題になるのでこの本では詳しく説明しませんが、例えば100.0-99.99のように同じぐらいの数同士で引き算を行うと誤差が現れやすくなります。」 と書いてありました。 この本ではこれだけで説明が終わりました。 なぜ浮動小数点で計算を行うと誤差が出るのか詳しく教えていただけると助かります。
- ベストアンサー
- Java
- 小数の性質についての質問です。
質問1:小数の位の移り変わりについてですが、0.090・・・0.099と続く とき、この0.099の次にくるのはいくつですか?僕の仮説では、 0.1なのですが、、まったくこの仮説に自信がありません。 質問2:0.99=99/100でしょうか? 質問3:0.001や0.0001は分数に直すと何分の何でしょうか? 質問4:0.15×0.172 といった、小数×小数の計算をする時、これを 712×15 と云うように整数に直したり、この計算を小数に 直すとき、「0.712は712の1000分の1、0.1 5は15の100分の1」のような考えをする時、どうや って瞬時にこのような整数に直したり小数に直したりする ことができますか?また、上記の計算式では、「1000×10 0=100000で、0の数5つ分小数点を左に移す」のような 行為を行うのですが、なぜこのような行為を行うのですか? 質問5:小数の位が第1位が第2位に変わったりなど、位が変わる時に、 この位が変わる時の条件はどのようなものがあるのでしょうか? 質問6:小数の位が変わる時に、小数が10進構造である場合、その10進構 造と小数の位が変わる事とどのような関係があるのでしょうか? 私は、10進構造に関する質問を以前したのですが、あまり理解で きませんでした。身近な具体例を挙げて説明してくだされば幸い です。 質問7:0.1=0.10ですか? 愚問を延々と並べてしまいましたが、切実に悩みに悩んでの質問なので、ご教示していただければ幸いです
- 締切済み
- 数学・算数
お礼
ありがとうございます。 その様に言っていただき感謝しています(^^) 今回も「極端の操作に耐えられない数は別物」 と言うのは非常に良く分かりました。 やはり1と0.999・・・は1億倍など、どんな数をかけても 同じ結果が得られますし1と0.999・・・の様に同じ結果が得られれ ば同じ数と考えられますもんね。 また質問したい事が出来たのですが今回は1度、締め切ってから また質問させて頂きます。 他の回答者様の御意見もあるかもしれないので 1週間程たってから締め切りたいと思います。 Ama430様には非常にお世話になりました。 感謝しています。 本当にありがとうございました。