- ベストアンサー
有効数字のバラバラな時の対処法とは?
- 有効数字のバラバラな時の対処法についてまとめました。
- 測定データの有効数字がばらばらな場合の解決方法について解説します。
- 有効数字が異なる場合の扱いについて詳しく説明します。
- みんなの回答 (5)
- 専門家の回答
質問者が選んだベストアンサー
- ベストアンサー
測定1~3まで、すべて有効数字は、小数点以下3桁で統一されていますが。。。 なにを言われたいのかわかりません。。。 測定1: 1.23 * 10^-1[mA] / 有効数字3桁 測定2: 1.2 * 10^-2[mA] / 有効数字2桁 測定3: 1 * 10^-3[mA] / 有効数字1桁 となって,違和感を感じます。 なら、 測定1: 123 * 10^-3[mA] 測定2: 12 * 10^-3[mA] 測定3: 1 * 10^-3[mA] と、表示するだけで良いのでは? 一般的に、MKS単位系では3桁ごとの表記が普通なので、乗数も3の倍数にすれば良いだけの話だと思います。 なんでわざわざ見にくいように揃えない様にするのか、何か意図があって見にくくして居るのかわかりませんが。。。
その他の回答 (4)
- foomufoomu
- ベストアンサー率36% (1018/2761)
>どうにもすっきりしません. ↑ここが間違ってます。 そもそも測定の有効数字が異なるのが、すっきりしていないのだから、すっきりしない書き方をするのが正しいです。 ところで、測定に使った機器は、どれだけの精度の物ですか? 相当な高級品でない限り、3桁精度の測定器は少ないですが http://jp.rs-online.com/web/generalDisplay.html?id=centre/eem_mrtech0703。 まず、この点をすっきりさせましょう。
- lumiheart
- ベストアンサー率47% (1148/2427)
本件は手書き? それともパソコン表示の話? そもそも普通のパソコン内部計算はデフォルトで単精度浮動小数点 その表示を変えてるに過ぎない データ自体は https://ja.wikipedia.org/wiki/IEEE_754 なので小数点以下の有効数字は1×10^-101まである 但し、最後の一桁あたりはそれなりに誤差が出るが たかが小数点以下3桁やそこらでとやかく言うほどの誤差は無い 因みにエクセルで↓の計算すると 1.0+2.3456789=3.3456789 有効数字は勝手に一番桁数の多いヤツになる >有効数字を維持するのが大前提だとは思いますが それがどーしたレベルの話
>度々すみません.では,このような場合: >測定1: 123[mA] / 有効数字3桁 >測定2: 12[mA] / 有効数字2桁 >測定3: 1[mA] / 有効数字1桁 >が, >測定1: 1.23 * 10^2[mA] / 有効数字3桁 >測定2: 1.2 * 10^1[mA] / 有効数字2桁 >測定3: 1 * 10^0[mA] / 有効数字1桁 >となりますが,その場合に於ける何かいいアイデアはないでしょうか. あなたがなにをやられたいのか理解に苦しむ内容です。 数字を一桁に合わせたいのか、測定値としての整合性を取りたいのか、 意味なく、指数表示にするだけを目的にして居るのか、理解ができません。 >(実際のところ,現在進行形で困っています.1000mAレンジと1000uAレンジで電流を測定し,混在する[mA]と[uA]の単位を[A]単位で統一したい場合は,指数表示という選択に絞られますが,そうした場合,有効数字がバラバラになっていてどうしたものかと困っているのです. >例: >1234[mA] / 有効数字4桁 / 1.234 * 10^0 [A] >34[mA] / 有効数字2桁 / 3.4 * 10^-2 [A] >7[uA] / 有効数字1桁 / 7 * 10-6 [A] ですから、なんで指数表示の乗数を揃えてはいけないんでしょうか?ということなんですよ。 μAに統一したいのなら^6で統一すれば良いだけの話。 それを指数をいじくって居るところの意味がわからないんです。 あなたの基準では、整数値は一桁しか許されないという基準なのでしょうか? それで合わせたいというのなら、それが基準なのですから、指数値がめちゃめちゃでわかりにくくたって、それがあなたの基準である以上、それを見やすくしろといっても無理でしかありません。 そもそも、見やすくするために指数表示にして居るのに、それをわざわざ見にくく使って居る時点でなにをやりたいのかがわからないんです。 たんん毒表記なら構いませんが、比較する場合は基準を合わせるというのは、小学校でも教わって居るレベルの話だと思いますが。 1200mと、3.2kmと、200000cmを、比べましょう。という時、どう教わったでしょう? まぁ、慣れて居る人なら即座にイメージがわかっりますがそうでない人なら、どうするでしょう? 指数というのは、単位系と同じ様な意味合いを持つものですので、そっちがバラバラであれば比べるのは非常にめんどくさくなるだけのものですが。。。
- 中京区 桑原町(@l4330)
- ベストアンサー率22% (4373/19606)
一般的には指数表示しません 0.123mA 0.012mA 0.001mA (または1μA) と書きます
お礼
一夜考えて改まりました。kisinaituiのお答えが尤もです。ありがとうございました。確かにスッキリしていると思います。
補足
度々すみません.では,このような場合: 測定1: 123[mA] / 有効数字3桁 測定2: 12[mA] / 有効数字2桁 測定3: 1[mA] / 有効数字1桁 が, 測定1: 1.23 * 10^2[mA] / 有効数字3桁 測定2: 1.2 * 10^1[mA] / 有効数字2桁 測定3: 1 * 10^0[mA] / 有効数字1桁 となりますが,その場合に於ける何かいいアイデアはないでしょうか. (実際のところ,現在進行形で困っています.1000mAレンジと1000uAレンジで電流を測定し,混在する[mA]と[uA]の単位を[A]単位で統一したい場合は,指数表示という選択に絞られますが,そうした場合,有効数字がバラバラになっていてどうしたものかと困っているのです. 例: 1234[mA] / 有効数字4桁 / 1.234 * 10^0 [A] 34[mA] / 有効数字2桁 / 3.4 * 10^-2 [A] 7[uA] / 有効数字1桁 / 7 * 10-6 [A] )