- 締切済み
有効数字3桁、小数点2位以内ってどゆ意味?
有効数字3桁、小数点2位以内ってどういうことですか? 176kg→0.176t→0.18t だそうです。なんかよくわかりません。 176kgは176kgで終わりなのでは?この時点で有効数字3桁なのだから。小数点2位以内でもなりますよね?176.00でもあるわけだし。 1760kgならどうなりますか? 17.6kgならどうなりますか? 1.76kgならどうなりますか? 0.176kgならどうなりますか? 1760で有効数字3桁、、176×10?それで終わりでは?それともいちいち、1.76×10^3という狙いをつけるわけ?0.176×10^4にして小数点2位以内とかで0.18×10^4に四捨五入すんの?小数点ずらして10のなんとか乗にすれば無限にいかように表現できるのでは? 17.6も1.76も0.176も同じじゃないですか? 本当にこの断片的な情報では容易に反問しうる問いに答えになってません。歯数処理のためにこんなヘンテコなことやってます。 小数点動かして、都合の良いところで、人によっては都合の悪いところで、有効数字何桁、小数点何位以内とかわけわからんことやってます。というかkgからtに読み替える時点で既に荒唐無稽じゃね?1760000tなら1.76M tとかいくらでも数字圧縮できるでしょ?
- みんなの回答 (1)
- 専門家の回答
みんなの回答
- hiro_1116
- ベストアンサー率30% (2376/7700)
関連するQ&A
- 2桁と3桁の数字の小数点位置を合わせたい
下方向に小数点2桁の数字を入力しているのですが、2桁と3桁の数字の小数点が ずれてしまいます。 位置を合わせることはできるのでしょうか?
- ベストアンサー
- Excel(エクセル)
- 小数点以下二桁まで求める?
小数点以下二桁までの後に、どの動詞を使ったらいいでしょうか? 言いたいのは、小数点以下二桁まで四捨五入で計算すること。 求める?丸める?それとも、ほかの動詞? 日本語学習者です。 よろしくお願いいたします。
- ベストアンサー
- 日本語・現代文・国語
- 小数点以下「3桁で」四捨五入?「3桁を」四捨五入?
小数点第3位を四捨五入して、小数点第2位までの数値にすることを、 「小数点以下3桁で四捨五入する」というのは正しい日本語ですか? 「小数点以下3桁を四捨五入する」の方が正しいですか? それとも他にもっと適切な言い方はありますか? 国語に自信のある方、回答お願いします!
- ベストアンサー
- 日本語・現代文・国語
- エクセルで計算して、例えば小数点第2位まで求めると1.36になった数字
エクセルで計算して、例えば小数点第2位まで求めると1.36になった数字を 小数点第1位で表示すると四捨五入で1.4となったとします。この数字に1000を 掛けると1360と表示されます。表示されている1.4に1000を掛けるということで 1400と表示するにはどのような関数を使用するのですか。 よろしくお願いします。
- ベストアンサー
- オフィス系ソフト
- 小数点4桁での四捨五入がうまくいきません
エクセルで次のような計算をさせます。 A2 に1.8、B2に0.075、C2に0.075、 D2に= A2*B2*C2 、E2に=roundup(D2,4) D2の計算結果は 0.010125 です。小数点第5桁目の値を参照して第4桁目で四捨五入したいのですが、roundupでは0.0102、rounddownでは0.0101です。 表示させたいのは0.0101です。この場合、rounddownを使えば問題ないのですが、逆にrounddownだと小数点以下4桁目の四捨五入がうまくいかない場合もあります。 例えば A3に2.7 B3に0.08、C3に0.08 があり、E3にすべての値を掛けた結果を表示させると0.01728となります。 =roundup(E3,4)では0.0173となり、rounddownでは0.0172となります。この場合はroundup関数の結果である0.0173が求める数値です。 A列、B列,C列に任意の数字が入り、E列に4桁目で四捨五入した正確な値を求めたいのですが、なにか良い方法はないでしょうか。 VBAを使っても構いません。ちなみにこれは木材の材積計算に使用する目的です。 よろしくお願いします。
- ベストアンサー
- Excel(エクセル)
- 小数点付きの余分な桁を消すには
014.5 002.1 のような小数点つきで整数の部分を3桁に揃えた 文字列のはじめの「0」や「00」を消して 普通の数字に戻したいのですが、どの様にすればよいのでしょうか? 厄介でしょうが、よろしくお願いします。
- ベストアンサー
- Perl
- 小数点付の数字の桁数を揃える
>10 を $suu=sprintf("%03d",$suu); このようにして3桁に揃えると >010 ですが、小数ありの数字を上の方法で桁数を揃えると >10.5 だった場合、小数点以下が無視され、 >010 と表示されます。それを、 >010.5 のように小数つきで桁数を揃えたいのですが、 どうすればいいのでしょうか? よろしくお願いします。
- ベストアンサー
- Perl
- excel2003を使用しています、セルに入力した数字が「小数点付き(
excel2003を使用しています、セルに入力した数字が「小数点付き(小数点1桁)付き」と「小数点なし」があります、表示もそのままの表示になって欲しいのですが「小数点以下1桁」とすると小数点なしの「数字」の場合(例3.0)と表示されます、小数点以下が「0」の場合は「小数点」と「0」は表示したくないのです、方法を教えて下さい、宜しくお願いします。
- ベストアンサー
- オフィス系ソフト
- 小数点第2位を四捨五入し…って?
Excelの表の作成の問題なのですが、頭がこんがらがってきたので質問させてください^^; 「小数点第2位を四捨五入し、小数点以下の桁数が1桁の%表示にすること」…とは、 98.12%を 98.1% ↑のように小数第1位まで表せということですか?
- 締切済み
- 数学・算数
- エクセルで小数点について教えてください
ROUNDとツールバーにある小数点表示桁上げとの違いはなんですか?みなさんどう使いわけているのですか?あと10g=0.01Kgですが、小数点1桁までだと0.0Kgなります。こちらのルールで0.1Kgと表示しなければいけません。やりかたがあるのでしょうか?計算式などあればよろしくお願いします。
- ベストアンサー
- オフィス系ソフト
補足
そうそう、それなんです。数学的な正しい判断ではないということでいいですか?小数点動かせばなんにだってできるし極端な話0にできるのでは?