- ベストアンサー
大きすぎる数値になるとE+になってしまいます…。
- みんなの回答 （3）
- 専門家の回答
質問者が選んだベストアンサー
がると申します。 「馬鹿でかい数値」のサイズにもよるのですが、ある程度以上(signed long値を超えるような数値。具体的には2147483647を超えるような値)の場合には注意を払う必要があります。 こういった数値を扱う場合、PHPですと、GMP関数やBCMath任意精度数学関数といったものを用いる必要があります。
関連するQ&A
- 数値に E でてくるのは。
Microsoft Excel や MATLABを使って数値計算をしているのですが、数値が非常に小さくなる時に、Eの入った形で表示されるのですが、これは大体いくつくらいを意味しているのでしょうか。 下にExcel計算の結果を載せておきます。よろしくお願いします。 ....... ........ 0.017946166 0.006095256 0.001997971 0.000645368 0.000207253 6.64089E-05 2.12612E-05 6.80477E-06 2.17766E-06 6.96868E-07 2.23E-07 ...... ...
- ベストアンサー
- 数学・算数
- 「3.75E-4」のような形で表される数値の読み方について教えてください
LCAを勉強していますが、係数などのデータが「3.75E-4」や「1.58E+1」のような形で表されていますが、この読み方が分かりません。 Ｅとか後ろの＋－とか何を表しているのでしょうか？ 分かる方がいたら教えてください。
- ベストアンサー
- 環境学・生態学
- 長い数値を入力すると「1.23457E+17」と表示されてしまうのは？
長い数値で例えば「123456789123456789」を入力すると「1.23457E+17」とセル内には表示され、データとしては「123456789123456000」となり、入力したものとあきらかに異なっています。 これはどういうことなのでしょうか？ また、正しく「123456789123456789」と表示させるにはどうしたらいいのでしょうか？ よろしくお願いします。
- ベストアンサー
- オフィス系ソフト
- ビッカーズ硬さ HV2.2E+4（MPa）の数値…
ビッカーズ硬さ HV2.2E+4（MPa）の数値は？ アルミナの硬さを調べていたら、『HV 2.2E+4（MPa）』と言う硬さ表現に ぶち当たりました。 私の知識だとビッカーズ硬さ（HV）は３桁から４桁の数値にて表されて いると思っていたのですが、上記の表現はどのように理解したら良いのか 判りません。 ご教授下さい。
- 締切済み
- その他（材料・素材）
- 数値の0が表示されない
Excelで、Noを入力する際に数値の先頭にある0が表示されません。 例）0001 → 1 や 00203 → 203 などになります。 新規でExcelを開いた状態から、設定は一切変えていません。 なぜこのようになるのでしょうか？対処法を教えて下さい。
- ベストアンサー
- オフィス系ソフト
- "6.1E-6"m3(立方メートル）の数値の読み方
いつもお世話になっています。 この度当方は、オンラインの”容積変換サイト”を利用して、立法メートルの数値をミリメーターの元の値から計算しましたが、その変換計算の結果の答えの表示が”6.1E-6”というアホみたいな表示になりました。 まともな10進法によるアラビア数字だけの羅列による回答がもらえると期待していた当方には読めません。 この回答の値は10進法におけるアラビア数字による表示ですと幾らの値になるのでしょうか？ すぐに教えて頂きたいです。宜しくお願い致します。
- 締切済み
- 数学・算数
- １２進法と６０進法の数値は
アナログ時計だと１２進法で ↓ ↓ ↓です。 1 ２ ３ ４ ５ ６ ７ ８ ９ １０ １１ １２ Q1：進法の考え方からすると １０～１２は1ケタで表現すべきではないですか？ １６進法だと 0 1 ２ ３ ４ ５ ６ ７ ８ ９ A B C D E F と1ケタで表現出来てます。 Q2：宇宙人（3000年前かなぁ！）が使用していた６０進数は1ケタで60種類の数値を表現していたん ですか？ 数値の種類もわかりますか？
- ベストアンサー
- 歴史
- 数値データの正規化
ほぼ素人なのですが若い社員に教える必要があるので四苦八苦してます。どうぞ判りやすくお教えください。数値データを統計的に処理する場合標準偏差を求めますね。そして場合によっては、更に深く解析を進めるためにはそれを正規化し比較する作業がありますね。例えばこの正規化された数値は偏差値の計算にも使われます。偏差値＝１０ｕ＋５０（ｕは正規化された数値） ここまでは間違ってないですね！ ここからが未だスッキリしない疑問です。正規化された数値はは平均値が０で、標準偏差・分散が１にあり－１～＋１の範囲にある。と理解してましたが、どうも違う気がしてきてます。というのは正規化された数値が－１～＋１の範囲の値しか取らないのであれば偏差値も４０～６０の値しか示さないことになります。「東大合格へは偏差値７０あれば良い！」が説明できなくなります。多分、どこかで見た、あるいは教えていただいた「正規化された数値は－１～＋１の範囲にある」が抜けきらないからスッキリしないと思うのですが、私は何処でどのように誤った理解をしたのかが気になって仕方ありません。「－１～＋１の範囲」は誤りなので、割り切って頭の中を切り替えれば済むようですが・・・・・何方か私が誤った理解をするに至った経緯を推論していただけないでしょうか？気分をスッキリさせるだけの我が儘な質問ですがご親切な方、よろしくお願いします。
- ベストアンサー
- 数学・算数
お礼
言語はPHPでしたのでその関数が使えそうです。ありがとうございます。。