• ベストアンサー

階層ニューラルネットワークにおける入出力層の数について

instepkickの回答

  • ベストアンサー
回答No.1

多分大丈夫でしょう． 3層のNNですか？ 中間層のニューロン数は、入力層の倍の数以下を計算してみて、最も良いものを選択するという方法が一般的だと思います． また、各重み係数をみてあまり効果の無いニューロンを削れば良いでしょう．

この回答がついた質問に戻る
  1. カテゴリ
  2. 学問・教育
  3. 数学・算数

関連するQ&A

  • 3層構造　階層型ニューラルネットワークについて

    入力層、中間層、出力層の３層構造からなる基本的な階層型ニューラルネットワークの結合荷重値はどのようにして与えられるのでしょうか？ また、中間層のニューロンの数はどのようにして決められるのでしょうか？入力層のニューロンの数と相関があるのでしょうか？中間層が多層の場合、１層のニューロンの数はみな同じですか？

  • ニューラルネットワーク

    ０～９までの７セグメントディスプレイで表す数字を識別するニューラルネットワークを作成したいのですがなかなかわからないので質問したい所存です。 ７セグメントを１～７のノードに割り振り中間層に１０個のノード８～１７でつなぎ出力するノードを１８～２７として１８から０～９まで出力するようにしたいのですが、やり方としてまず、 ２７個のノードの結合関係を隣接行列で表す。 つぎに内部状態と重みのとる値の範囲を示す。 そしてそのニューラルネットワークに入力を与え、出力を計算する手順を説明するとのことなのですが。 よろしければアドバイス等お願いいたします。

  • 4階層型ニューラルネット(逆伝播法)

    　現在、実験のために4階層型のニューラルネットを作成しているのですが上手く収束しません。使用は入力層、中間層2層、出力層の計4層です。 　各変数はo1が入力ユニットからの出力、o2とo3は中間層ユニットの出力、o4が出力層ユニットの出力です。w43,w32,w21はそれぞれの結合強度です。biasはそのままバイアスです。変数の前にdがついてるものは変化を表したものです。etaは学習率、alphaは慣性項係数です。この値と中間層ユニット数を変更してみても収束しませんでした。 　問題があるのは逆伝播法での結合強度の更新です。以下にそのルーチンを示しますのでお気づきの点がありましたらお願いします。特に問題があるのは中間層～入力層間についてだと思うのですが。。 　ご意見お願いします。また、よろしければ4層以上のニューラルネットについてのサイトがあればお願いします。

  • ニューラルネットワークの入力層の選択

    ニューラルネットワークで入力層・中間層・出力層があるわけですが、入力層をインプットとして出力層を推定するモデリングを考えていくのが基本だろうと思います。 そこで質問なのですが、出力層というのアウトプットとして欲しいものであり、入力層はそれを説明するに足りる情報だとみなすことができるように思います。という風に考えると入力層は説明には足りない数だとなっていた場合、十分学習した後、アウトプットはどのように変化していくものでしょうか。不安定とか発散とかそういう結果になるのでしょうか。また、正しくモデリングするためには入力層はある程度の数が必要ということになるのでしょうか。つまり必要な数よりも少ないとダメだけど、少々多いのは構わないということになるのでしょうか。それともモデリングの対象ごとにいろいろ違うということになるものでしょうか。また、入力層として必要なデータは理屈で考えて因果関係が説明できるものから選ぶというのが基本なのでしょうか。”風が吹けば桶屋が儲かる”ということで、風のデータは入力層に必ず含め、桶屋の収入をアウトプットとするという風にする、ということですが。 よろしくお願いします。

  • ロジスティックとニューラルネットワークの違い

    ロジスティック回帰分析とニューラルネットワークの明確な違いを説明できる方がおられましたら、教えていただけないでしょうか。 ニューラルネットワーク（多層構造＆バックプロパゲーション）も中間層での計算は、ロジスティックなので、考え方によっては2重、3重のロジスティックと考えられないこともないと思うのですが・・・（慣性項は含まれていますが）。

  • 4階層型ニューラルネットワークで学習(準ニュートン法)

    準ニュートン法の学習方法の中に出てくるヘッセ行列の逆行列の近似行列Hについてなんですが、よく最適化についての本に更新式が載っているのを見るのですけど、(DFP法やBFGS法)アルゴリズムの中に探索方向の計算についてあるんですが、4層のニューラルネットに準ニュートン法を導入すると、それぞれ入力層-中間層1と中間層1-中間層2と中間層2-出力層の３つの所でそれぞれ重みwや微分式∇f(w)の更新を行うと思うのですが、このときにHをそれぞれの層間で探索方向を用いて次のHを更新するみたいですが、このHはよく初期値として単位行列を設定しているようなのですが、これはそれぞれの層のユニット数を同じにする必要とかあるのでしょうか?例えば中間1-2層のユニット数は10個とか

  • 階層型ニューラルネットワークについて

    大学から出された課題です。 階層型ニューラルネットワークについて教えてもらえませんか？ 詳細があるサイトなどあったら教えてほしいのですが。。 最終的に、 学習データ数Pの時刻ｔにおける重みの変化量を数式で表し、解説しなければなりません。 よろしくお願い致しますm(_ _)m

  • ニューラルネットワークとAI

    まさに今、書籍でもマスコミでもなんでもこの方面が賑やかのように見えます。 実際に本を読んでみてそれを実行するという面ではそれほどハードルが高くないように思えます（基礎理論は軽い線形代数と微積を少々）（これを考え付いた人はエライですが）。システムの枠組みがあってデータを学習させてシステムの変数を同定していくということですかね。そのため逆にいうと独自性を出すところとか頭１つ他よりも上に行くのは難しいだろうと思いますが、私の立場は単純にユーザです。言われた通りのことをやってみるってだけのことです。そういう立場で見ると、入力層とか出力層は問題設定で決まらざるを得ないのですが、中間層のノード数、層数はどうやって決めていくのかな？という疑問があります。教科書のサンプル例では中間層が1層で５ノードとかの事例が示されています。１層５ノードとなっているところを４層で各層10ノードとかに設定したとしてもプログラム自体は特に問題なく動くように思えます。今どきのコンピュータだと苦も無く計算してしまいそうです。ただし、そうなると学習させるデータがそれに見合って多くないと意味がないかもしれませんが。中間層の層数・ノード数の決め方に何か指標があるでしょうか。未知の変数が多くなるので十分学習すれば複雑な問題に対応できるのかもしれませんが、そこまでしなくていいだろうというような感じなのでしょうか。 また、AIって結局ニューラルネットワークのことだ、と思っていいのでしょうか。多分、ビッグデータがあるから皆出来るようになったんだなと思いますが。

  • ニューラルネットワークについて質問です。

    ニューラルネットワークについて質問です。 初歩的な質問です。 ニューラルネットワークの中でも セルラーニューラルネットワークというものは セルが何個も並んでいて そのひとつひとつに 0 １ 0 １ ０ １ 0 １ 0 のように、値が設定されているのですよね？ で、例えばこのセルをＡテンプレートとします。 画像処理を行っている研究がたくさんありますが これらは、Ａテンプレートが一つのドットに対応させているのでしょうか？ そしてそのドットの値が入力値になるのでしょうか？ で微分なら微分で、計算した結果を出力するのでしょうか？ それとも、Ａのテンプレートのそれぞれ０，１の値がドットに対応するのでしょうか？ 違うのであればどのような構造になっているか 教えていただきたいです。 よろしくお願いします。

  • ニューラルネットワークの正規化されたデータを元に戻すには

    ニューラルネットワークで正規化し、パラメータを求めた後、パラメータの正規化をもとに戻したいのですが、方法が分かりません。 以下は、私がやっている途中を示します。 たとえば、データの入力が年齢と身長、出力が体重のデータがあるとします。 年齢x1　　身長x2　　　体重y 21　　　　160　　　　　55 24　　　　172　　　　　63 私は、正規化するために 　x1’＝（x1-ave（x1））/std（x1） 　x2’＝（x2-ave（x2））/std（x2） 　y’＝（y-ave（y））/std（y） として正規化しました。aveは平均、stdは標準偏差 ニューラルネットとしては、次の式で表される三層パーセプトロンを利用しています。 　f＝W0＋Σ｛Wj*hj｝　Σはj=1からJまで 　（中間層－出力層） 　hj＝sigmoid（Σ｛Wjk*xk’｝）　Σはk=1,2 　（入力層－中間層） 　Error＝（f-y’）*（f-y’） 入力層のバイアスはなしで、中間層のバイアスはありを考えています。 活性化関数は、中間層がシグモイド関数、出力層が線形関数です。 正規化したｘとｙに対して各ｗを求めるプログラムは作れたのですが、 ここからどうやってｗの正規化を解除すればよいか分かりません。 正規化する方法は載っているサイトはいくつかあるのですが、解除する 方法が載っているのは見つかりませんでした。 回答よろしくお願いします。

注目のQ&A

カテゴリ

専門家に質問してみよう

職業から探して質問する
質問する