• 締切済み

量子化

量子化についてご教示下さい。 例えばある浮動小数点表示を考えましょう。ただしその表示方法で表すことができる、絶対値が最も小さい値をaとします。この浮動小数点表示で0で表される場合を0に置換し、0より大きい値で表される場合をT(>>a)、負の値で表される場合を-Tに置換するとします。 この演算を量子化と記してよいでしょうか?

みんなの回答

  • Tacosan
  • ベストアンサー率23% (3656/15482)
回答No.1

ん~, 「量子化」っていうと普通は「値を一定間隔にまるめる」ってイメージだと思う.... 実質的には「符号をとっただけ」なんだよね, この処理って. だから, ちょっと「量子化」って表現はあわない気がする. 「閾値処理」といえないこともないとか, いろいろ考えはできるんだけどやっぱりちょっとピンと来ない感じ.

tora_taro
質問者

お礼

ありがとうございます。

関連するQ&A

  • 浮動小数点演算と固定小数点演算の使い分けについて

    解説書などには、「浮動小数点は3.14E0の形」や「固定小数点は3.14」などと説明されています。 では、例えば、ごく一般的な32ビットマシンで「3.14 * 45.6」という命令を書いたときに演算されるのは浮動小数点演算なのか、固定小数点演算なのかがわかりません。例えばIntelのx86CPUは、内部にFPUを持っているそうですが、この場合は「3.14 * 45.6」は、内部では必ず浮動小数点演算になっているということなのでしょうか? 「3.14 * 45.6」を「3.14E0 * 4.56E1」と書いた場合にしか浮動小数点演算されないということではないと思っているのですが、実際の浮動小数点演算と固定小数点演算の内部的な切り替えがわかりません。 理解が足りなくて、おかしな質問になっていましたら、その点もご指摘いただければうれしいです。

  • 浮動小数点数型

    単精度浮動小数点型と倍精度浮動小数点数型、それぞれ値がとりうる範囲を教えてください。 単精度浮動小数点型 負の値は -3.4028235E+38 ~ -1.401298E-45、 正の値は 1.401298E-45 ~ 3.4028235E+38 の範囲の値 倍精度浮動小数点数型 負の値は -1.79769313486231570E+308 ~ -4.94065645841246544E-324、 正の値は 4.94065645841246544E-324 ~ 1.79769313486231570E+308 の範囲の値 とは記述してあるのですが、実際に小数1桁なら整数部はどのくらいの範囲の値がとれるのか、皆目わかりません。 どうか、わかりやすく教えてください。 よろしくお願い致します。

  • AthronX2 5200とCore2DuoE6600で浮動小数点の演算が速いのはどっち?

    AthronX2 5200とCore2DuoE6600で浮動小数点の演算が速いのはどちらなのでしょうか?ベンチマークでいろいろ異なる結果が出て困っています。HD BENCHではCore2DuoE6600がAthronx2 4200に負けてしまいました。CUBASE(DAW)を使用しているので浮動小数点演算が速くないと困るのです。本当にAthronX2 5200とCore2DuoE6600で浮動小数点の演算が速いのはどちらなのでしょうか?Core2DUOの浮動小数点演算の能力が低ければ買い替えを検討しています。多角的な側面からアドバイス願います。

  • Accessクエリの整数型と単精度型の演算について

    Accessのクエリで長整数型と単精度浮動小数点型を 加算すると答えが一致しません。理由を知っている人いますか? ちなみに長整数型と倍精度浮動小数点型を加算したときは答えが一致します。 浮動小数点は誤差がつきものなのは分かりますが、 確か単精度浮動小数点型は有効桁数7桁までのはず。 下記の例では問題ないように見えます。 (例)長整数型と単精度浮動小数型の演算:1000+0.20=1000.20000000298 長整数型と倍精度浮動小数型の演算:1000+0.20=1000.2 それではよろしくお願いします。

  • 低消費電力版CPUのクロック当たり処理能力低い理由

    たとえば下記の3つのCPUです。 i3-3220T 最高クロック2.80GHz 浮動小数点演算性能 44.80 GFLOPS i5-3210M 最高クロック3.10GHz 浮動小数点演算性能 40.00 GFLOPS i7-3517U 最高クロック3.00GHz 浮動小数点演算性能 30.40 GFLOPS http://hardware-navi.com/cpu.php 最高クロックはほぼ同じですが、どうして最大演算性能にはこんなに違いがあるのでしょうか。 低消費電力版CPUがクロック当たり処理能力が低くなる理由を具体的に説明お願いします。

  • 浮動小数点演算とは

    浮動小数点演算とは何か調べたのですがイマイチよくわかりません。 簡単に言うとどういうことでしょうか?

  • iアプリで浮動小数点を使いたい

    iアプリで確立を計算したいのですが、浮動小数点が使えないので困っています。 整数演算で浮動小数点を扱うクラスを自作するしかないのでしょうか? 使えそうなクラスなど、ご存知でしたら教えてください。

    • ベストアンサー
    • Java
  • IEEE方式

    450.9375dをIEEE方式の単精度浮動小数点表示はわかるのですが、 -23,111dの場合はどうなるのでしょうか。 小数部分の0.111が綺麗にならないので、わかりません。 ご教示願えませんでしょうか。

  • 浮動小数点演算FLOPSについて

    コンピュータの勉強はじめたのですが 浮動小数点演算とは どのようなことをさすのでしょうか。

  • Javaの小数点について

    Q = Integer.parseInt(args[0]); A = Q % 5; if ( A == 0 ) { System.out.print( ( Q + 2 ) / 3 ); } 5の倍数の場合は、 入力された値に2を足した値を3で割った値 を表示したい ( 表示するのは小数点第2位までで、小数点第3位を四捨五入したい) というプログラムなのですが小数点の出し方が解りません。 どうやればよいのでしょうか? 「D:\Work>java test 5  演算結果は 2.33 です」 上記のように表示させたいのですがよくわかりません。 申し訳ないですが教えてください。

    • ベストアンサー
    • Java