- ベストアンサー
エクセル上の数値の意味
ametsuchiの回答
- ametsuchi
- ベストアンサー率31% (81/257)
すいません。訂正します。 数値の異常な小ささから考えて、「丸め誤差」の可能性の方が大きいです。 たとえば、連立一次方程式をガウスジョルダン法で解くと、本来＝０になるはずなのに、「丸め誤差」の影響によってこのような小さな値が残ることがあります。 同じ連立一次方程式の数値解法でもガウスザイデル法は反復法であり、その計算結果は「丸め誤差」と「打ち切り誤差」が重なっており、普通は後者の方が大きいです。
関連するQ&A
- Excel での数値の E の意味
Excel 2003 では 100000000000 が 1E+11, 111111111111 が 1.11111E+11 と表示されます。この E の意味することを教えてください。
- ベストアンサー
- 数学・算数
- エクセルでの数値の丸め方について
エクセルで、数値を丸めるとき… たとえば 数値が3.2なら3.5を返す。 数値が3.6なら4.0を返す。 というように0.5ずつ切り上げるようなことは関数を使ってできますか？ ご存知の方よろしくお願いします。
- ベストアンサー
- オフィス系ソフト
- 数値に E でてくるのは。
Microsoft Excel や MATLABを使って数値計算をしているのですが、数値が非常に小さくなる時に、Eの入った形で表示されるのですが、これは大体いくつくらいを意味しているのでしょうか。 下にExcel計算の結果を載せておきます。よろしくお願いします。 ....... ........ 0.017946166 0.006095256 0.001997971 0.000645368 0.000207253 6.64089E-05 2.12612E-05 6.80477E-06 2.17766E-06 6.96868E-07 2.23E-07 ...... ...
- ベストアンサー
- 数学・算数
- EXCELの表示形式の意味を教えてください。
EXCELで、ｙｙｙｙとかｍｍとかで表示形式を指定しますが、ｇやeというのは何の略称なんでしょうか？？ｙならYEARということですよね？このｇとeの意味をぜひ教えていただけないでしょうか？？宜しくお願いしたします。
- ベストアンサー
- オフィス系ソフト
- エクセルの数値判定について
エクセルの数値判定について教えてください。 パーセンテージ判定なのですが、ある計算をして E1 -1.89% E2 0.21% E3 -1.81% E4 1.15% E5 0.94% 以下続く とあるとします。 そこでE列のパーセンテージの値に対して振り分けを行いたいのです。 それは1.00%以上ならA,0.10%～0.99%ならB、0.09%から0まではＣ1、 0から-0.09%まではＣ2、-0.10%～-0.99%まではＤ、-1.00%以下ならE とＦ列に表示したいのですがその方法がわかりません。 よろしくご教授くださいませ
- 締切済み
- オフィス系ソフト
- Excelで相関係数を求めた時に表示される「～E-～」（～は数値）とは
Excelで相関係数を求めた時に表示される「～E-～」（～は数値）とは？ Excelで“=correl(～,～)”を用いて相関係数をいくつか出したのですが、 そのうち数個の相関係数が「1.92639E-16」とか「9.64107E-17」などと出ました。 相関係数の値は0～±1.0の範囲だけだと思っていたのですが、 何故このような計算値が出てしまったんでしょうか？ また、この値をどのように解釈したらよいのでしょうか？ 統計にはあまり慣れていないので、ご存知の方がいらっしゃいましたら、 なるべく分かり易い単語での回答をよろしくお願い致します。
- ベストアンサー
- その他（インターネット・Webサービス）
- Excelで数値を並べ替えたい
Excelで、A列に西暦年が1960年から20年分、B列に月、C列に日、D列に時刻（1時間単位）、E列に数値が入ったシートがあります。 間には閏年もあります。 7000行強の列があることになります。 これを年ごとに別シート（20シート）に分けたいです。 シート内ではA列に年月日および時刻(1960/1/1 1:00)、B列に元のE列の値を並べます。 複数ファイルあるので、可能ならばファイルごとに列方向（C列、D列、E列…）に順次整列もできればなおありがたいです。 VBAで処理できますでしょうか。 参考になりそうな記述をご教示頂ければ幸いです。
- ベストアンサー
- Excel（エクセル）
- 【エクセル】数値にスラッシュを入れるには？
エクセルの質問です。 生年月日が、例えば『1980年1月1日』であれば『19800101』と全て数字で入っています。これを『1980/01/01』と表示させるにはどうしたらいいでしょうか？？ ご存知の方、どうぞよろしくお願い致します！！
- ベストアンサー
- オフィス系ソフト
- エクセルの関数について
エクセルで近似曲線の関数の式をだしたところ、 「ｙ＝５Ｅ＋０９」という式がでてきました。 ０９という数字はあるのでしょうか？小数点がありません。 この意味を教えてください<m(__)m> できれば、Ｅの意味もわかる方はおしえてください！おねがいします。
- 締切済み
- その他([技術者向] コンピューター)
- エクセルで数値の入力ができない
今独学でエクセルを勉強してるのですが、数値入力の仕方が分かりません。 6083と入力したいのに、入力して確定すると6.083E-07と表示されてしまいます。 どうすればいいですか？ 似たような質問がないか調べてみたのですが出てきませんでした。 既出またはカテゴリ違いだったらすみません。
- ベストアンサー
- オフィス系ソフト