- 締切済み
小数の有効数字
- みんなの回答 （2）
- 専門家の回答
みんなの回答
- htms42
- ベストアンサー率47% (1120/2361)
「有効数字をそろえる」と言う場合、２つの意味があります。 演算の種類によって変わるのです。 （１）掛け算、割り算では桁数をそろえます。 演算の結果は一番精度の悪い数字の精度にほぼ等しくなります。精度の高い方を余分に取る場合もあります。結果の曖昧さが小さくなります。 １．０と９．９とでは精度にかなりの違いがあります。 ９．９と精度の近いのは１．００です。 １．０の有効数字は２桁であるとしている計算をよく見ますが実質の桁数は１桁です。１．０が含まれている演算の結果の有効数字は１桁です。 （２）足し算、引き算は位をそろえます。 演算の結果は一番下の位が一番高い数字の位と一致します。 足し算をすると有効数字の桁数が増えることがあります。引き算では桁数が減ることがあります。「桁落ち」といいます。 時々引き算で桁落ちが起こっているのを桁数を増やして補っている計算を見ます。誤りです。
- kiwa67
- ベストアンサー率22% (82/357)
>0,300は有効数字３桁ですよね?でも、0,067は有効数字２桁ではないのですか? そうですね。 有効数字をそろえるというのは、小数点の位をそろえるという意味で 使ったのでしょうかね？
関連するQ&A
- 小数で困っています。
こんばんは！！norakuroと申します。 小数の質問なんですが、（ある小数に、その小数の小数点を１けた右に 移してできる小数をたすと、１０５．１６になります。ある小数とはいくつですか。）という問題で、解き方が１０５．１６÷（１０＋１）＝９．５６て書いてあるのですが、少数点を１けた右に移すから１０倍になり、その小数×１０ってなるのは解るんですが、１ってどこからでてくるのですか？？自分の考えた式ですと、？＋？×１０＝１０５．１６と言う考えになり、ここから先に進みません。１という数字はどこからもでてこないので理解ができずにいます。誰かわかる方教えてください！！
- 締切済み
- 数学・算数
- ２桁と３桁の数字の小数点位置を合わせたい
下方向に小数点２桁の数字を入力しているのですが、２桁と３桁の数字の小数点が ずれてしまいます。 位置を合わせることはできるのでしょうか？
- ベストアンサー
- Excel（エクセル）
- 小数点付の数字の桁数を揃える
＞10 を $suu=sprintf("%03d",$suu); このようにして3桁に揃えると ＞010 ですが、小数ありの数字を上の方法で桁数を揃えると ＞10.5 だった場合、小数点以下が無視され、 ＞010 と表示されます。それを、 ＞010.5 のように小数つきで桁数を揃えたいのですが、 どうすればいいのでしょうか？ よろしくお願いします。
- ベストアンサー
- Perl
- 有効数字3桁、小数点2位以内ってどゆ意味？
有効数字3桁、小数点2位以内ってどういうことですか？ 176kg→0.176t→0.18t だそうです。なんかよくわかりません。 176kgは176kgで終わりなのでは？この時点で有効数字3桁なのだから。小数点2位以内でもなりますよね？176.00でもあるわけだし。 1760kgならどうなりますか？ 17.6kgならどうなりますか？ 1.76kgならどうなりますか？ 0.176kgならどうなりますか？ 1760で有効数字3桁、、176×10？それで終わりでは？それともいちいち、1.76×10^3という狙いをつけるわけ？0.176×10^4にして小数点2位以内とかで0.18×10^4に四捨五入すんの？小数点ずらして10のなんとか乗にすれば無限にいかように表現できるのでは？ 17.6も1.76も0.176も同じじゃないですか？ 本当にこの断片的な情報では容易に反問しうる問いに答えになってません。歯数処理のためにこんなヘンテコなことやってます。 小数点動かして、都合の良いところで、人によっては都合の悪いところで、有効数字何桁、小数点何位以内とかわけわからんことやってます。というかkgからtに読み替える時点で既に荒唐無稽じゃね？1760000tなら1.76M tとかいくらでも数字圧縮できるでしょ？
- 締切済み
- 数学・算数
- 珠算で小数点のある計算について
10年程前まで珠算を習っていて、3級までは持っているのですが、最近趣味程度にまた再開してみました。 しかし、掛け算の小数点での位取りは覚えているのですが、どうしても割り算の小数点での位取りの方法を忘れてしまったので、もし知っている方がいましたら教えてください。
- 締切済み
- その他（趣味・娯楽・エンターテイメント）
- JISに従った数字の丸め方、これで合ってますか？
よろしくお願いいたします。 JISに従った数字を丸め方、これで合っているでしょうか？ 【1】1.385を小数点以下2桁に→1.38 【2】1.3845を小数点以下2桁に→1.38 【3】1.2501を有効数字2桁に→1.3 【4】0.9876を有効数字３桁に→0.987 もし間違っていたらご指摘ください。
- ベストアンサー
- 測定・分析
- 小数点以下の数字の出現
お尋ね致します。エクセル2013を使っています。 次の関数を作りました。 =IF(Q266="b",V266-U266,U266-V266)*100 すると、U,V列には小数点以下３桁までの数字しか入力していないのですが、この関数の欄には、小数点14桁くらいまでの変な数字が出現してしまいます。例えば、5のはずが4.99999999999875とかになります。 別の列にこの答えが5なら...というような関数を入れたのに、TRUE FALSEが正しく返って来ないので気が付きました。ここで作業が止まってしまい、困っています。 これはなぜなんでしょうか？ 説明、伝わってますでしょうか？ 補足が必要でしたらご教示ください。
- ベストアンサー
- Excel（エクセル）
- Excel小数３桁目の丸め方
丸め方で困っております。 関数で何とかならないものでしょうか？ 宜しくお教え下さい。 小数３桁目の数字が５未満なら小数３桁目を切捨てる ” ５なら小数３桁目をそのまま５ ” ６以上なら小数３桁目を切り上げ 例 1.234→1.230 1.235→1.235 1.236→1.240 ※小数３桁の数の入るセルを〔A1〕とし、A1は数式です。
- ベストアンサー
- オフィス系ソフト
- excel2003を使用しています、セルに入力した数字が「小数点付き（
excel2003を使用しています、セルに入力した数字が「小数点付き（小数点１桁）付き」と「小数点なし」があります、表示もそのままの表示になって欲しいのですが「小数点以下１桁」とすると小数点なしの「数字」の場合（例3.0）と表示されます、小数点以下が「0」の場合は「小数点」と「0」は表示したくないのです、方法を教えて下さい、宜しくお願いします。
- ベストアンサー
- オフィス系ソフト
- 化学での有効数字について（途中計算）
以下についてアドバイスいただけると助かります。 有効数字について 和・差について・・・小数点以下の桁数が少ない方に合わせる 積・商について・・・桁数が少ない方に合わせる については、分かったのですが、有効数字３桁での指定があるときに 19.1、24.5889、0.12553、3.2952の4つの数にたいして ○和を筆算で求める場合 小数第1位に合わせるために、 19.1→19.10（小数第2位表示） 24.5889→24.58（小数第3位切り捨て） 0.12553→0.12（小数第3位切り捨て） 3.2952→3.29（小数第3位切り捨て） として和を求め、小数第1位（小数第2位四捨五入）にする ○積を筆算で求める場合 有効数字３桁に合わせるために、 19.1→19.10（有効数字4桁表示） 24.5889→24.58（5桁目切り捨て） 0.12553→0.1255（5桁目切り捨て） 3.2952→3.295（5桁目切り捨て） として積を求め、有効数字を3桁（4桁目は四捨五入）にする と思っています。 １．このやり方で大学受験では問題ないのでしょうか。 特に気になっているのは、計算をする前の丸め方（すべて切り捨てにしているところ）です。 ２．計算ステップがいくつもあり、一度に計算ができない場合、そのステップ毎に得られる数の 丸め方は切り捨て・四捨五入のどちらがよいのでしょうか。 よろしくお願いします。
- ベストアンサー
- 化学
