- 締切済み
規格値に対する実測値の扱いについて
ある部品の寸法の規格が仕様書で302±1mmと規定されております。メーカーから提出されたデータで300.5mmと記載されていたので規格外れと判断して納入先に問い合わせたところ、小数点下一桁は四捨五入して301mmになるので規格内だと言っているのですが、納得できません。メーカーの言い分は正しいのでしょうか?また、規格値で指定した有効数字の下の桁の扱いはどのようにすればよろしいでしょうか?判断に困っています。
- みんなの回答 (2)
- 専門家の回答
関連するQ&A
- 有効数字(有効桁)の考え方
小数を含んだ計算ですが,以下の押さえで正しいでしょうか? いくつかサイトを見て,こうなのかな?と思ってまとめてみたのですが... ((1)の「4」,(2)の「5」に関しては誤差を含まない数とする) (1)6.523×4=26.092 (2)6.524×5=32.620 (小数第3位の0は必要) (3)65.23+6.524=71.754 →71.75(四捨五入(各々4桁故)) (4)65.23÷6.524=9.99846719… →9.998(四捨五入) (5)65.23÷6.52=10.00460122… →10.0(四捨五入(6.52が3桁故答えは3桁まで)) (6)6.523×6.524=42.556052 →42.46(四捨五入(各々4桁故)) (7)6.523×6.52=42.52996 →42.5(四捨五入(6.52が3桁故)) 正しいでしょうか?
- 締切済み
- 数学・算数
- エクセルで小数点以下3桁を四捨五入して、小数点以下1桁を表示する方法
エクセル2003を使用しています。 計算式から出た結果に対して、小数点以下3桁を四捨五入して、小数点以下2桁ではなく、1桁を表示したいです。 例えば、計算式の結果、 1.145 の場合、普通に四捨五入すると 小数点以下1桁なら、1.1 小数点以下2桁なら、1.15 となってしまいます。 これを小数点以下3桁を四捨五入して、小数点以下1桁表示の1.2と表示させたいのですが、可能でしょうか?
- ベストアンサー
- オフィス系ソフト
- JIS規格などの規格値に対する小数点以下の扱い
今まであまり気にしていなかったのですが、JISなどの規格値に対する小数点以下の扱いには基準があるのでしょうか。 例えば100mm以下の規格値に対して100.xmmはOK, 100.ymmはNG、或は1/100単位? 規格値の大きさにもにもよると思います、よろしくお願いします。
- 締切済み
- その他(品質管理)
- 小数点以下「3桁で」四捨五入?「3桁を」四捨五入?
小数点第3位を四捨五入して、小数点第2位までの数値にすることを、 「小数点以下3桁で四捨五入する」というのは正しい日本語ですか? 「小数点以下3桁を四捨五入する」の方が正しいですか? それとも他にもっと適切な言い方はありますか? 国語に自信のある方、回答お願いします!
- ベストアンサー
- 日本語・現代文・国語
- Excel 桁区切り機能の四捨五入について
エクセルの桁区切りで四捨五入ができません。 例えば22.446….という数字があって、桁区切りで四捨五入していくと、 22.446…→22.45→22.4になります。四捨五入であれば22.5と表示されるはずですが、四捨五入ができていない理由は何でしょうか。 そのほか。小数点第2位が5になっている場合、同様のことが起きます。
- ベストアンサー
- Excel(エクセル)
- 対数の問題 常用対数
対数の問題で log[10]2=0.3010 log[10]3=0.4771 とするとき、次の値を求めよ log[3]5 こういう問題で割り算しますよね 小数点以下4桁出しましたが、小数点以下5桁目は切り捨てるんですか?四捨五入するんですか? 小数点以下5桁目の切り捨てか四捨五入ってどっちでもよくはないんですか? 今までは全部5桁目がたまたま0~4になったから四捨五入なんか気にしませんでしたが、先生には特に何も言われなかったですし けど教科書は 対数の値は一般には無理数で無限小数で表される。対数表には小数第5位を四捨五入した値が記載されている と書いてあります。
- ベストアンサー
- 数学・算数
- エクセルで数値の桁数を一定の法則で統一したい
E列にA~D列のデータから計算された数値が並んでいます。 たとえば E1:9.9 E2:86.08695652 E3:212.8571429 E4:1158.13953488372 これらを E1:9.90 (整数1桁の場合は四捨五入して小数2桁まで) 1未満の数値も小数2桁で(例、0.96) E2:86.1 (整数2桁の場合は四捨五入して小数1桁まで) E3:213 (整数3桁の場合は四捨五入して小数カット) E4:1158 (整数4桁の場合は四捨五入して小数カット) 上記の法則で見やすく整理したいのです。 整数4桁が最大です。大量のデータをまとめて整理出来る方法は ないでしょうか?よろしくお願いします。
- ベストアンサー
- その他(データベース)
- 電卓の表示(いつもは0桁、割り切れないとき2桁)
キャノンのHS-1220TUGという電卓使ってます。 計算後の答えなんですが、割り切れないときだけ小数点2桁表示(3桁目を四捨五入)で、それ以外は0桁に表示するやり方ありませんか? いつもはFで四捨五入してるんですが、これだといつも小数点2桁まで表示されちゃうから見づらいんです。
- 締切済み
- 数学・算数
- エクセルで有効桁を指定して丸めることは出来る?
excelで普通に四捨五入をするとなると 「ROUND」などで小数点以下の桁数を指定しますよね。 そうではなく、有効桁数3桁で四捨五入…例えば、 0.1234ならば0.123 1.234ならば1.23 12.34ならば12.3 123.4ならば123…のように 数字を四捨五入させる関数(?)はあるのでしょうか。
- ベストアンサー
- オフィス系ソフト
お礼
回答ありがとうございました。早速対応します。