• ベストアンサー

BP学習に使う学習データについて

tomo316の回答

  • tomo316
  • ベストアンサー率35% (51/142)
回答No.2

このプログラムを例にすると、エラー値が出ます。 ゼロに近ければ成功です。 入力 x1 x2 xor 0 0 0 0 1 1 1 0 1 1 1 0 出力 デフォールトでは500回に1回学習の途中結果が次のように表示されます。 Input 1 1 ( 0 ) <- パターン0の入力と教師信号 Output 0.0127 <- その入力を入れたとき実際の出力 Input 1 0 ( 1 ) <- パターン1の入力と教師信号 Output 0.9863 <- その入力を入れたとき実際の出力 Input 0 1 ( 1 ) <- パターン2の入力と教師信号 Output 0.9856 <- その入力を入れたとき実際の出力 Input 0 0 ( 0 ) <- パターン3の入力と教師信号 Output 0.0134 <- その入力を入れたとき実際の出力 500 9.205321e-05 <- 現在の学習回数とエラー値 学習が終了すると次のように表示されます。 Time = 2277 <- かかった学習の回数 Input 1 1 ( 0 ) <- パターン0の入力と教師信号 Output 0.0041 <- その入力を入れたときの出力 Input 1 0 ( 1 ) <- 以下各パターンについて同じ Output 0.9958 Input 0 1 ( 1 ) Output 0.9949 Input 0 0 ( 0 ) Output 0.0044 E = 9.998749e-06 <- 最終的なエラー値(ゼロに近い値なはず) Weight <- 学習終了後の重みと閾値 w1[0]={3.914727,-3.845814} theta1[0]=-2.108753 w1[1]={3.554649,-3.407200} theta1[1]=1.706878 w2[0]={5.865372,-5.808394} theta2[0]=2.825594

関連するQ&A

  • ニューラルネットワークの重みは負の値をとってもいい?

    ニューラルネットワークの重みは,結合の強さを表していると理解してます。 以下のURLの例のように重みが負の値をとる場合がありますが,重みの意味を考えると,  結合の強さを強くしたいなら,重みは,1より大きい値  結合の強さを弱くしたいなら,重みは,(0,1)の値  重みが負なら? ということを疑問に感じたのですが,重みが負はどういうことを表しているんでしょうか? 例)重みが負 http://mars.elcom.nitech.ac.jp/java-cai/neuro/psimmain.html

  • ボルツマンマシンについて

    今巡回セールスマン問題をボルツマンマシンを用いて解こうとしています。ホップフィールドモデルにパラメータである温度(T)を加えるみたいなんですが、理論が全く分かりません。まずボルツマンマシン自体が理解できていませン。いろいろwebはみたんですが、巡回セールスマン問題を解くプログラムが分かる方がいらっしゃったらお願いします。 http://mars.elcom.nitech.ac.jp/java-cai/neuro/menu.html http://www.twcu.ac.jp/~asakawa/chiba/handout4/mutual.html

  • ニューラルネットワークでのバイアス項と活性化関数について

    ニューラルネットワークについて http://mars.elcom.nitech.ac.jp/java-cai/neuro/menu.html を参考に勉強しています. 1. ニューラルネットワークのあるノードの出力は,前層のノードの重み和で表され,  out_i = Σ{W_ji*x_j}  from j=0~n となる. ここで,バイアス項として,W_0i,x_j0=1.0 というのがあるのですが, このバイアス項はどういう役割をするためにあるのでしょうか? 2. ノードx_iへの出力は,活性化関数g を用いて,  x_i = g(out_i) となる. ここで,「活性化関数は非線形関数でなければならない」というふうに 言われているのですが,なぜ非線形でなければならないのでしょうか? 以上の1.2.について御教授お願いします.

  • 多次元正規乱数が正しく生成されているか確認するには?

    多次元正規乱数に従うサンプルを生成したく,以下の資料を参考にし,プログラムを作成しました。生成したサンプルが本当に要求した多次元正規乱数にしたがっているか確認したいのですが,以下の手順で正しいといえるでしょうか? 例: 平均μ=[1; 2] 分散協分散行列 Σ=[1,0;    0,1]; に従う多次元正規乱数y=[y1,y2]を全部でn=100サンプル生成した. このとき,n=100個のy1の平均が1,n=100個のy2の平均が2となり, n=100個のy1の分散が1,n=100個のy2の分散が1,y1とy2の共分散が0となれば正しく生成できているといってよいでしょうか? この方法で確認したのですが,生成したサンプルが元の平均,共分散から0.1~0.2のずれがあり正しいのか不安です。 参考にした資料: 「多次元正規乱数の作成法」 http://ci.nii.ac.jp/naid/110001186428/ja 「共分散の計算の仕方」 http://www.ge.fukui-nct.ac.jp/~nagamizu/f-3-s.pdf

  • 合同式法をつかって(CPad)

    合同式法をつかって(CPad) (1)一様乱数(平均1、分散1) (2)正規乱数(平均1、分散4)のヒストグラムを作成したいのですが、 どのようにしてすればよいのでしょうか? ちなみに乱数のプログラムは作成しました。 よろしくお願いいたします。

  • ニューラルネットの標準化について

    ニューラルネットの学習前に,データ[X,Y] を標準化  (x-ave(x)) / std(x)  ave(x):xの平均  std(x):xの標準偏差 というようにすべてのデータについて,[0,1]に標準化しています. 学習後(BP法),ニューラルネットから得られた回帰式は,標準化したので, パラメータが[0,1]の範囲になってしまっています. この学習後得られたパラメータの標準化を解除して,標準化しないで学習して得られたパラメータのようにしたいのですが, 学習後のパラメータの標準化はどういうふうに解除すればいいのでしょうか?

  • 平均と分散を設定して数値を生成する

    Excelで、いくつかの標本から平均値や分散を求めることができますが、 その逆はできないでしょうか。 例えば、添付画像のC列のように、先に平均値と標本分散を指定しておいて、 C3セルからC10セルに、条件に合うような数値を入れるような指示はできるのでしょうか。 乱数の生成が一番近いかと思ったのですが、平均値と分散ありきでの生成法がないかと思って質問させていただきました。どなたかご教授くだされば幸いです。 使用しているのはExcel2010です。

  • データの系列の平均の求め方のアルゴリズム

    100個の数値が並んでいてその平均を求めるという場合、全部足して100で割る、ということしか考えられなかったのですが、そうではないアルゴリズムがあるようです。プログラム的な説明だと以下のようです。 ave=0.0 平均が分かっていると仮定する。 do i=1,100 xx=x(i)-ave あるデータx(i)と、分かっている思っている平均aveとの差をとる。 ave=ave+xx/i その差をそこまでのデータ個数iで割る。新しいデータによる平均の変化量とみてそれを前の平均に加える。 enddo それを十分大きな回数繰り返す。そうすると平均に近づく。 このような考え方はある学問分野では常識なのかもしれませんが、近似ということになると思います。データの数が十分大きくて最初の平均が実際と異なるエラーが相対的に減ってくるとかです。このアルゴリズムにはどのような制約が付くものでしょうか。例えば乱数を発生させてその平均を求めるときに全部発生させてから和を取って個数で割るのではなく、1つ1つ乱数を発生させて発生し終わった時点で平均が計算できてしまっている、ということになります。分散も同じようなアルゴリズムになると思います。実験や理論的な検討を加えることはできると思いますが、あまりにも簡単なので常識であり、かつ性質も調べられているのではないかと思ってお尋ねしました。いかがでしょうか。

  • Mathematicaによる乱数生成について

    Mathematicaを用いて正規分布に係数をかけた物に従った乱数を生成したいのですが、ヘルプを調べても分からず困っています。 具体的に行いたいことは、 RandomReal[1/3*NormalDistribution[0,10], 100]          ~~~ のような事です。 正規分布の確率密度関数(平均0,分散10)に係数(ここでは1/3)をかけた分布に従う乱数を100個生成したいということです。 どなたか解決方法をご存知の方がいらっしゃいましたらよろしくお願いいたします。

  • プログラミングの乱数

    c言語、c++の乱数rand()の使い方がよくわかりません。わかりやすい説明をお願いします。 あと、プログラミングが得意な方にお願いです。 [0,1]乱数で平均と分散を求めるプログラムを配列なしで作ってください。