• ベストアンサー

分布関数とエントロピー

エントロピーSを分布関数fiを用いて(iは一つの量子状態) S=-kBΣfi*ln(fi) kBはボルツマン定数 と表しているのを見るのですが、どのように導いているのか分かりません。また、この式はどのように解釈したらよいのでしょうか?一般にエントロピーが増大すると分布関数はどうなるのでしょうか?

  • yanee
  • お礼率71% (5/7)

質問者が選んだベストアンサー

  • ベストアンサー
  • nadja
  • ベストアンサー率33% (5/15)
回答No.3

少し細かいのですが、考えている事象が可算個の場合(たとえばW個あるとすると)エントロピー H=-\sum_x p(x)\log p(x) を次の拘束条件(確率の和は1) \sum_x p(x)=1 を満たす確率測度p(x)はLagrangeの未定乗数法よりp(x)=1/Wになります。 また違う拘束条件、たとえば E=\sum_x p(x)H(x) H(x)の平均が一定の下での、エントロピー最大にする確率測度はGibbs分布になります。 正準集団のエントロピー表現(H=-\sum_x p(x)\log p(x))に、拘束条件がどのようにはいるかによって変わります。なのでS=logWと早とちりしないほうがいいですよ。 以下の「逆温度について」の資料も参考にしてみてください。

参考URL:
http://www.cas.dis.titech.ac.jp/~higo/wiki/study/index.php?%C2%E81%B2%F3%CA%D9%B6%AF%B2%F1

その他の回答 (2)

  • rabbit_cat
  • ベストアンサー率40% (829/2062)
回答No.2

>このエントロピーの概念の考え方は、 >S=kB*lnW(E) W;状態の数   (1) >と同じ事を言っているのでしょうか 同じです。ただし、(1)のW(E)の「状態」というのは、現象を極限まで分割したときの状態で、各状態の発生確率は等しいという仮定が入っています。もし、W(E)の各状態の発生確率が等しくない場合には、本当は状態をもっと細かく分割できるはずです。 例えば、状態1が確率1/3、状態2が確率2/3で起こるとすると、本当は状態2というのは、それぞれ確率1/3で起こる状態2aまたは状態2bのどちらかが起こったとき、と分割できるはずです。なぜなら、極限まで分割した状態は、必ず発生確率が等しくなるので。 で、こう考えていくと、 S=kB*lnW(E) と S=-kBΣfi*ln(fi) が同じ式であることがわかってくると思います。

yanee
質問者

お礼

おそくなって申し訳ありません。自分なりに  S=-kBΣfi*ln(fi) (1) の最大値は、等重率の原理より  fi=1/W となり、  S=kB*lnW(E) (2) を導けました。すなわちSが最大になるという条件の下で (1)と(2)の式がイコールで結ばれることになるのでしょうか?

  • rabbit_cat
  • ベストアンサー率40% (829/2062)
回答No.1

ある確率分布 P(X=Xi)=pi に従う確率変数があるとき、この分布の情報エントロピー(自己情報量の期待値)は、 H = -Σpi*log(pi) です。解釈は、情報理論の本を見れば書いてあると思います。 統計力学のエントロピーでは、これに係数kBがかかっていますが、これは、水の融点と沸点との温度差が100Kになるようにするためです。

yanee
質問者

お礼

ありがとうございます。 このエントロピーの概念の考え方は、 S=kB*lnW(E) W;状態の数   (1) と同じ事を言っているのでしょうか?それなら、(1)から導けるはずですよね?僕の中ではW(E)が W(E)=1/pi と考えており、そこから単純に S=-kB*ln(pi) となると考えていたのですが、見てのとおり一致しません。なにか根本的に解釈が間違っていると思うのですが・・・ご指摘お願いします。

関連するQ&A

  • ボルツマン分布則について。

    現在、赤外分光光度計を使用するために量子力学を勉強しようと思っています。 そこで、「ボルツマン分布則」という知らないお言葉が。 ボルツマン定数は聞いたことあるんですけどね・・・。 で、ボルツマン分布則について教えてください! よいサイトなどもあれば教えていただきたいです。 お願いします。

  • エントロピーの計算

    問題が解けないので投稿しました。 一般的にN個の事象の確率分布を{p1,p2,…,pn}とするとき、その情報エントロピーはS=-∑_(i=1)^N pilog(pi)で与えられる。このとき、情報エントロピーSを最大にする確率分布をとのときのSを求めよ。 まったくわからないので途中式もできればお願いします。 ∑の部分が見づらいのですがすみません。 よろしくお願いします。

  • エントロピーと現実世界の解釈

     ボルツマンについて少々調べ物をしていまして、ようやくエントロピー増大の法則について理解が出来てきた所です。  ボルツマンはエントロピーを確率論と結び付けて、エントロピーが増大するのは統計上低エントロピーな状態が起こりにくいからだ、という解釈をしているようです。  その上でボルツマンは、現実にこれだけ複雑な(ここの定義が問題ありますね。。)世界が出来上がっていることは、超長時間にわたってこの宇宙が存在してきたからと考えているらしいです。  いわば赤と青のビー玉を一緒にして箱に入れて振ると普通は混ざり合うものですが、振り続ける時間が長いと偶然偏りが出来る、地球という星はその偏りなんだ、と解釈していると僕が解釈しているわけですが。  まだまだ勉強不足で宇宙の黎明期についてあまり理解していないのですがこのボルツマンの解釈って妥当なものなんでしょうか?(僕のボルツマン解釈でなく上のボルツマンの解釈です)  この宇宙をただ一つのものではなく多次元世界のうちの4次元の世界の一つとみなす解釈もありますからそうすると人間には到底想像できないような回数試行を行っているとも考えられるわけでその観点にたてばボルツマンの解釈も成り立つわけですけど……  前提知識としては高校物理くらいまでしか理解できてないという事でその範囲で答えて頂ければありがたいです。もしそれで理解できないのであれば今後どういう領域を学んでいけば理解できるようになるのかを示して頂けると嬉しいです。自分で勉強しろって話ですが。 よろしくお願いします。

  • 一般分布の分布関数

    一般分布についての質問です 一般分布の分布関数を使いG(t-u)を計算しようとしているのですが一般分布に従う時の分布関数や密度関数等の式がわかりません。 ポアソン分布や指数分布は参考書等出てきて関数自体わかるのですが一般分布についてはなかなか式まで書いている参考書が少なくわかりません。 知っている方、わかる方はどうか教えてください。 よろしくお願い致します。

  • 対数正規分布について

    現在、実験の解析で対数正規分布を使用するため勉強しているのですが、 ある論文の中に以下の式がでてきました。 f(x)=A* exp[-{ln(x)-ln(t)}^2/r^2] ⊿x=2t*sunh(r) f(x) =対数正規分布の確率密度関数 A  =正規化定数、 t  =モード(f(x)が最大値の時のxの値) ⊿x =f(x)の最大値を1/e倍した値の時に求められる2つのxの幅 一般の教科書に載っているような式と違うため解釈に困っています。 A(正規化定数)をどのように求められるのか、rは平均、標準偏差とどのような関係があるかなどわからないことだらけです。 どうか、これらの関係を教えていただけないでしょうか、よろしくお願いします。

  • 分布関数に関する質問です。

    分布関数に関する問題で,解答に自信がないため質問させていただきます。 問:次の関数F(x)が分布関数となるためには,定数cはどのような値をとらなければならないか求めよ。   F(x)=0(x<1),clogx(1≦x<2),1(2≦x) という問題です。 主に「分布関数となるために」という一文の意味が解釈できず,困っています。 1≦x<2の範囲で常に0≦clogx<1が満たされるようなcを求めればいいのでしょうか? そうなると, x=1のとき0≦clogx x=2のときclogx≦1 を満たせばよいので, 0≦c<(1/log2) …と解けばよいのでしょうか? お分かりになる方,お助け願います。

  • エントロピー〜2つの定義をどうやってつなぐ?

    エントロピーの定義としてボルツマンの式 S=kBln(W)  (1) と S=∫dQ/T (2) の2つの定義がありますが、これらの式で求まる量が同じものであることはどうやって証明するのでしょうか。教科書を読んでいると、「別の定義では・・・」というふうに、「これは別の式でも定義できるもの」という前提が当たり前に成り立つかのようにいきなり書かれていますが、そもそも同じものであることが証明できていなければ同じ量として定義できないと思うんです。たとえば式(1)と他の何かの関係式から式(2)が導出できたりするのでしょうか? よろしくお願いします。

  • 熱力学(等エントロピー変化)

    実在気体(蒸気)の等エントロピー変化において、ごく限られた温度・圧力の範囲内で成り立つ式 p・v^k=const. (p:圧力 v:体積 k:断熱指数) があります。 断熱指数は温度と圧力の関数です。 この式をk=の形に変形すると、 k=-v/[p(∂v/∂p)] ( (∂v/∂p)は、エントロピー:s=const.) になります。 導出過程について、下記の様に自分なりに答えを出したのですが、合っているでしょうか? 申し訳ありませんが、お分かりになる方教えてください。 よろしくお願いします。 p・v^k=const.より ln(p・v^k)=C (C:定数) ln(p)+ln(v^k)=C ln(p)+k・ln(v)=C (d/dv)ln(p)+k・(d/dv)ln(v)=0 (1/p)(dp/dv)+(k/v)=0 k=(-v/p)(dp/dv) k=-v/[p(dv/dp)] ここで(dv/dp)はds=0(s=const.)の偏微分となり、 k=-v/[p(∂v/∂p)] となる。

  • 熱輻射の強度分布について質問

    熱輻射の強度分布である温度T における全エネルギー∫[0,∞]U(ν)dνはT^4 に比例する 事を示したいのですが、積分の所で計算ができずに困っています。 U(ν) の計算式は U(ν)=(8πhν^3)/c^3(exp(hν/kB*T)-1) , h:プランク定数,ν:振動数,kB:ボルツマン定数,c:光速 ですがU(ν)の原始関数がわかりません どなたかわかる方がいたら教えて下さい

  • エントロピーの定義、変じゃないですか?

    エントロピーについて、それなりに理解したつもりだったのですが、改めて勉強しなおすと訳が分からなくなりました。 エントロピー増大というのは「仕事に変換できない熱量が増えてゆくこと」だと理解していたのですが、 熱力学第三法則によると、絶対零度のときエントロピ―が0になるとあります。 質問(1)『増加していって、ゼロになるんですか?』 エントロピーの別の解釈として“無秩序さ”というのが言われますが、一般に言う秩序とは若干意味合いが異なりますよね? これは“熱秩序”とか別の呼び方をした方が良いのではないかと思うのですが、 開放系における一般現象をエントロピーの概念で説明するときに“無秩序の増大”というのは、あまりにも回りくどい理解を必要とします。 質問(2)『無秩序の増大ではなく“秩序の複雑化”と定義した場合、何か問題は生じますか?』 自分でもどのレベルの質問をしているのか、よく分かっていないところがあります。簡単な言葉で説明して頂ければ幸いです。