• ベストアンサー

情報エントロピーと最大エントロピー法

stomachmanの回答

  • stomachman
  • ベストアンサー率57% (1014/1775)
回答No.2

最大エントロピー法を考える上では、情報エントロピーの詳細はあんまり重要ではありません。最大エントロピー法の考え方は「データをなるべくノイズだと解釈して、残ったのを信号とみなす」という点がポイントです。このためには、ノイズはエントロピーが大きいから、エントロピーを最大化するように信号を再現すれば良い訳です。観測対象のモデルに応じてエントロピーの定義を変えてしまうこともしばしばあります。

関連するQ&A

  • 最大エントロピー法について

    最大エントロピー法について 加速度波形を周波数分析することを考えています。 そこでMEMを利用して分析を行うことを考えているのですが、勉強を始めたばかりでMEMについてよく理解できていません。ネットで調べてみても概略を飛ばしていきなり式がズラッと並んでいるところが多くて、困っています。 MEMについてわかりやすく基礎から学べるツールはないでしょうか? 書籍やネットのページでも何でも良いです。よろしくお願いします!!

  • 心電図(スペクトル解析)のy軸の単位は、なぜmsの2乗?

    最大エントロピー法(MEM)による心電図解析(スペクトル解析)を急きょ始めることになった者です。 ところでグラフのy軸の単位はなぜmsms/Hzという具合にmsの2乗になっているのでしょうか? どなたか教えてください。数学オンチな私にも分かるようなご説明をいただければ誠に幸甚です。 どうぞ宜しくお願い致します。

  • エントロピー変化

    n1モルの気体Aとn2モルの気体Bとが板Cで仕切ってある。A,Bの温度、圧力は互いに等しくそれぞれT,Pである。 1)A、Bの体積比を求めよ 2)板Cを外すとA,Bは混合する。全体のエントロピー変化を求めよ。 という問題が出されました。 この問題を物理を取ったことがなく数学(2)Bまでしかやったことがない人でもわかるようなヒントを教えてください。 あと、熱力学がわかるサイトや参考書などありましたら教えてください。

  • 熱力学:熱浴と接触したエントロピーの変化

    熱力学の分野で質問させてください。 「温度T1で定積熱容量Cvを持つ物体を、温度T2の熱浴に接触させ熱平衡状態にした。これら二つの系はお互い熱のやり取りを行うだけで、外部との熱の交換はしない。 このとき、全系のエントロピー変化を求めよ。」 という問題です。 物体については第一法則から ΔS=Cvln(T2/T1) と求められます。 熱浴については、物体にCv(T2-T1)の熱を与えていますが、温度一定のままなので、ΔS=0でよいのでしょうか? 基本的な問題かと思われますが、ご教授ください。

  • 情報を統合する方法

    自分が今まで勉強してきた数学、熱力学、更に専門分野、その他雑多な情報などを統括的に整理して残したいと考えています。 やはり紙のノートでは有機的につながらないのが問題です。 ソフトで何か利便性が良いものはないでしょうか。図形や数式を多用したいと思います。 HTML(Web)、FreeMind、その他あれば教えて下さい。

  • 代数学について

    現代科学において、数学における解析学と代数学の功績が大きく、これからも期待される分野であると聞きました。解析学は物理学と結び付きが強いので理解できますが、代数学については、いまいち、実感できません。一体、代数学はどんな分野で適応、または応用されているのですか?理系の分野だけでなく文系の分野でも、代数学の概念は応用されているのですか?

  • 天体の位置情報は?

    宇宙空間が数学的な三次元空間では無いらしいということは位相幾何学の本(一般書)で読みました。 しかし、天文学者が有る天体を特定して会話するためには、便宜上、三次元ユークリッド空間に近似して、その位置座標を情報として交換するのではないかと想像しております。 もちろん、三次元空間内の位置を示すためには地球を始点とした位置ベクトルで天体を特定しても良いとおもいます。 実際のところ、天文学者が新しい天体を観測し(=名前は未だ無い)その天体の位置情報を他の天文学者に伝えるためにはどのような情報を使うのでしょうか? 宇宙空間を擬似的に三次元ユークリッド空間と見なして、(X、Y、X)の座標で情報交換するとした場合、地球を通るX軸は、どちらの方向を向いているのでしょうか? まさか北極星ということはないですよね? 一般に(名称が無い)天体を特定するためにはどのような情報が使われるのか、ご存知の方が居ればご教示ください。

  • 物理の勉強の仕方

    当方、40代の会社員で気象学に興味があります。 あと15年少しで定年ですが、定年後は何か学んでみたいと思います。 文系ですが数学は得意なほうで物理を考えていますが、力学、熱力学や解析力学など力学でもいろいな分野があるようで、どのような順番で勉強していくのがよいのでしょうか。

  • 熱力学第2法則の統計力学的説明。

    熱力学の第2法則の統計力学的な説明ってどうなるのでしょうか? S=klnW W:状態数 において、状態数が最大な場合はもっとも実現しやすいからというのは 理解してます。ただしこれは状態数のすくない状態(非平衡)より状態数の 多い状態の方が実現しやすい。すなはち、「平衡状態では状態数が最大化する。」という説明です。 この説明は、非平衡状態と平衡状態を比較して、後者が実現しやすいというものであり、非平衡な状態から出発してエントロピーが時間的に変化して 最終的に最大化するまでの間の時間変化には触れていません。 私が疑問なのは、この間のエントロピーの時間発展をどう説明するのか? というものです。 例題として念頭においてるのは非平衡な状態から平衡状態への系の緩和過程 を考え、その間のエントロピーの時間変化を追って、「エントロピーが増えるでしょう」という説明が可能か?というものです。 もともとは平衡状態定義されたエントロピーという概念を非平衡系 にも拡張して理解しないといけないという困難がつきまとう問題で、 単純にはエントロピーを S=S(q ,p): q,pは相空間上の点 のようにミクロな量として定義してその時間発展を追えばよさそうで、 実際、エントロピーを何か 微視状態の平均として定義する方法は あり、 S=k∫ρ(q p)lnρ(q p) :ρ(qp)は確率密度関数。 と定義できるのですが、愚弟的にこの定義で非平衡状態からの時間変化を 追う方法がよく分りません。 また本質的な問題として、上の定義はρ(qp)で時間発展が決まりますが、 ρはリウビルの定理から時間反転に対象であり、そもそも不可逆過程を 表現する式になっていません。 ここ数年ことあるごとに気になっていますが、いまだに分りません。 みなさまのご意見お待ちします。

  • 大学物理の勉強法について

    私は、理系学生なのですが生命科学系学部なので大学の授業で物理学がありません。そこで独学で学ぼうと思っているのですが、どこから手を付けていいのか分かりません。そこで、参考書や演習書、どの学問から勉強していけばよいのかについて助言をお願いします。 以下を参考にしてください ・学びたい分野「力学」「熱力学」「解析物理」「生物物理」「化学物理」「量子力学」「相対性理論」等。 ・高校では物理II化学IIまで理解している。 ・数学は大学1年レベルの微分積分・線形代数を一通り。