主成分分析の疑問点と第二主成分の計算式について

このQ&Aのポイント
  • 主成分分析において、第二主成分を求める際に行われる計算式はV1=V-λaa'です。
  • この式では、相関行列Vから固有値λと固有ベクトルaを求め、λaa'を行列Vから引くことで新しい行列V1を得ることができます。
  • 具体的な理由や計算式の導出については情報が限られており、多くの参考文献やウェブサイトでも詳細な説明は見つかりませんでした。
回答を見る
  • ベストアンサー

第二主成分を求めるときの行列V1=V-λaa'

主成分分析についての質問です。 主成分を求めるために、 相関行列Vから、固有値λと固有ベクトルaを求めました。 その次に第二主成分を求めるのですが、 その際に行列Vに対して、 V-λaa'=V1として、新しい行列V1を求めます。 ここが疑問点です。 Vからλaa'を引くことで、 第一主成分の要素を、 行列から引いているんだろうなーというのは なんとなくわかります。 でも、どうしてλaa'が 第一主成分の要素を表しているのかがわかりません。 また、どうやってこの計算式(V1=V-λaa')になったのかもわかりませんでした。 多変量解析の本は何冊か読んでみたし、 ウェブもいくつか閲覧しましたが、 どこにも記述が見つからなく、困っていました。 よろしくお願いします。

質問者が選んだベストアンサー

  • ベストアンサー
  • reiman
  • ベストアンサー率62% (102/163)
回答No.1

主成分分析とか第1主成分とか第2主成分とか知らないが Aをn次実対称行列として s[1],s[2],s[3],・・・,s[n] をAの相異なる固有値の組とし 固有値s[m]に対応するAの実固有ベクトルをv[m]とし u[m]=v[m]/√(v[m]^T・v[m]) とし B=A-s[1]・u[1]・u[1]^T とすると 0,s[2],s[3],・・・s[n] はBの固有値となり v[1]は固有値0に対応するBの固有ベクトルとなり v[m](1<m)は固有値s[m]に対応するBの固有ベクトルとなる このことと関係あるのでは? なお、固有値の重複度が2以上の時にも同様のことを示すことができる 上記のことは極めて簡単に証明できることなので 知っているとは思いますが

teruringo
質問者

お礼

ありがとうございました。 助かりました。 前に記入したお礼の文章が消えているのはどうしてでしょうね^^;

関連するQ&A

  • 相関行列による主成分分析

    変量がp個の場合の主成分分析で、相関行列(の二乗和)に着目した時の話です。 この時の、第二主成分を求める手順、式変形、式変形が成り立つ理由がいまいち理解できません。 主成分分析、あるいは多変量解析の教科書は複数冊に目を通しているのですが、理解力が足りないようで…。 うまく説明できる方、宜しくお願いします。

  • 主成分分析について

    主成分分析を行い、主成分ベクトルを求めるためには行列(共分散行列)の固有値問題を 解き、固有値・固有ベクトルを求めればよいですよね。そこで固有値行列(対角成分に固有値 λが並ぶ行列)の固有値の値から累積寄与率を求め適当な次元まで減らすということは わかっています。そこで質問です。 例えば、元々100次元あるとします。固有値問題を解けば、100個の固有値が求まりますよね。 その固有値ひとつひとつに100個の成分を持つ固有ベクトルが存在しますよね。 これを50次元に減らすとします。元々100個固有値を持つ行列から、50個分を用いることになり ますよね。ここで、次元が50になったので固有値と対応する固有ベクトルの成分の数も100から 50に減るのですか?減るとしたら、固有ベクトルの成分からどのように50個取り除けばよいかが わかりません。どうか教えていただきたいと思います。

  • 主成分分析の固有ベクトルの求め方

    今、3×3行列の主成分分析をしているのですが、どうしても固有ベクトルがうまく求められません。2×2行列の固有ベクトルは公式が導かれているのですが、3×3行列はよく分かりません。 ゴリゴリに計算をするしかないのでしょうか?よろしくお願いします。

  • 相関行列の主成分の求め方について

    今回レポートで再提出しなくちゃならない課題の中に 相関係数行列がありまして、 それが    1 0.4 0.3 R= 0.4 1 0      0.3 0 1   というもので、これから固有値と主成分寄与率を求めていかなければならないんです。 で、 固有値を求めるために最初のλはRa=λaでそれぞれ、 λ1=1.5 λ2=1 λ3=0.5と求める事が出来たのですが、この後の固有値を求めるための計算で詰まってしまいました。 式としてはλ3の時から求めだして    1 0.4 0.3   |X1|      |X1| R= 0.4 1 0  ×|X2| =0.5×|X2|    0.3 0 1    |X3|      |X3| より、 X1+0.4X2+0.3X3=0.5X1…(1) 0.4X1+X2   =0.5X2…(2) 0.3X1+X3   =0.5X3…(3) というところから変換していこうとしたのですが、どうにも答えとは違う固有値が出てしまい、 主成分を求めるところまで行き着けません。さらに、回答にルートが入ってきていて、どうやったらルートが出てくるのかとも悩んでいます。 どうか、固有値と主成分の求め方を教えてください。

  • 主成分分析における出発行列の違いは?

    タイトルの通りなのです。 あるデータについて主成分分析を行いたいのですが 出発行列によって得られる結果が異なると教わりました。 相関係数行列と分散共分散行列はどのように使い分けるのでしょうか。 どなたか教えてください。お願いします!

  • 正則でない行列の固有値・固有ベクトル

    複数のデータを取得し、それらのデータを用いて「主成分分析」を行うプログラムを実装しようと考えています。そこで、取得したデータから共分散行列を生成し、固有値・固有ベクトルを求めたいのですが、固有値が0になってしまう部分に対応する固有ベクトルは当然求められないですよね。 「ある正方行列Aが正則である必要十分条件は、Aが固有値0を持たないこと」を知りました。 取得した任意の値を成分にもつ行列が正則になるなんて限らないので、この場合は主成分分析は出来ないのですか?それとも、主成分分析では固有値が0になる部分は始めから考えなくていいのですか?どうか教えてください。

  • 対称行列 固有値

    次の2問をお願いします。 (1)Aを2次の対称行列とする。Aの二つの固有値が一致するならばA=λIであることを示せ。 (2)Aを2次の対称行列とする。またλをAの固有値、vベクトルをλに対するAの固有ベクトルとするとき、wベクトル=R(π/2)vベクトルはAのもう一方の固有値に対する固有ベクトルであることを示せ。 A= a b vベクトル=v1 c d v2 と成分表示する。 見づらいと思いますが、よろしくお願いします。

  • 主成分分析について

    主成分分析について 現在、主成分分析の計算方法を勉強をしているのですが、主成分得点の求め方がわかりません。 例をあげて説明させていただくと、 x1 x2 x3 8 9 4 2 5 7 8  5  6 3  5  4 7  4  9 4  3  4 3  6  8 6  8  2 5  4  5 6  7  6 このようなデータを分析するとして、各変数の相関係数(X1X2 X2X3 X1X3)の値はわかりますし、計算方法もわかります。 またここから固有値もわかります。 しかしここからどうやって、主成分得点を求めればよいかわかりません。 どのように計算するのですか?よろしければご回答下さい。

  • 多変量解析の主成分分析と因子分析の違いについて教えてください.

    多変量解析の主成分分析と因子分析の違いについて教えてください.どちらもほとんど同じ気がするのですがどのようにちがうのでしょうか?よろしくお願いいたします.

  • 主成分分析でのばらつき

    主成分分析において、因子のばらつきが多いところを見つけるには出力結果の何を見ればよいのでしょうか? 例えば、月を変数として、ある商品の価格を全国の都道府県ごとに主成分分析すると、 結果として、固有値、寄与率、固有ベクトル(各月に対して)がでますよね?ここで、全国の都道府県間の価格のばらつきが多い月は何月か見るためには、主成分分析の結果のどこに着目して解釈すればよいのでしょうか? よろしくお願いします。