ニューラルにおける階層型と相互結合型の違いを教えてください．

質問

ニューラルネットと使って研究を行いたいと思っています．階層型にくらべると相互結合型の方がすべての要素に影響しているという点で大変優れていると思うのですが，逆に階層型のほうが優れている点というのは簡単であるという観点以外ではどのような点がありますか．教えてください．

回答No.1

stomachman

道具としてneural netを利用して研究をするのなら、どんな研究にどういう効果を期待して利用するのかよく考えなくちゃね。

　階層型の一番有難い所はバックプロパゲーションという学習アルゴリズムがあること。（近頃じゃもっと効率の良い方法も使われます。）アウトプットと教師信号とのずれをもとに、networkを逆向きに遡りながら各シナプス係数に修正を入れていきます。（neural netの学習を、シナプスの係数を変数とする多変数関数の極値問題であるとみなしたときに、最急降下法による最小解の探索をやっているのとほぼ等価です。）これを繰り返すとだんだん「おりこう」になる。こういう「自己組織化」の原理がすっきりしているのが良いところです。またループがないからぐるぐる回りの発振が生じることがありません。
　大脳皮質の構造を顕微鏡的に調べると、6～7層の階層型neural networkで良く近似されます。
　ただし層を飛び越えたり、逆走する結合も少しはある。neural netブームの遙か以前から独自の研究をなさってた福島先生はこの事を考慮してneo-cognitronというモデルを作ってました。

　ちゃっかり者が楽できるとは限らないようで。がんばって。