最小値探索アルゴリズム（修正POWELL法、準ニュートン法、修正ニュートン法）

質問

f(x)=100(x2-x1^2)^2+(1-x1)^2
のバナナ関数において、
初期点(-2 4)から
・修正POWELL法
・準ニュートン法
・修正ニュートン法
の収束の様子をプログラミングし考察しなければならなくなりました．

ですが、全く検討が付きません．(^^;)

まず、修正POWELL法を考えたのですが、
参考文献やサイトが見つからず、
唯一見つけた文献で、始めの
「１次独立なｎ個の長さ１の直交座標方向ベクトルd」
の意味が分からず止まっています．
修正POWELL法のそれ以降の意味はなんとなく理解してきました．

どなたか、上記の３つの方法を解説をしていただけませんでしょうか？
申し訳ありません．
また、もしソースを公開しているサイトがあれば、助かります
当方、C&C++、VBが理解できます．

回答No.1

noname#101087

「Optimization Toolbox」という商品の解説ページ(Cybernet)で、Overview 向きです。(解説はしきれません。あしからず)

　http://dl.cybernet.co.jp/matlab/support/manual/r14/toolbox/optim/?/matlab/support/manual/r14/toolbox/optim/tutoric3.shtml
>Optimization Toolbox User's Guide / 標準的なアルゴリズム
の中の「制約なしの最適化」を選んでみてください。

>原点の回りで曲率が歪んでいるために、制約なしの例題の中で悪名高いもので、バナナ関数として知られている....
・ライン探索法 : Fletcher & Powell コンビの Fletcher の著作を参照。

補足

ありがとうございます．
修正POWELL法＝共役勾配法と理解して、
すこしトライしてみます．
ありがとうございました＾＾