ニューラルネットワークをどのように扱うのですか? - ページ 8

 
VladislavVG:

最適化とはどういう意味ですか?オプションを通すだけなら、それはそれでアリなんですけどね。戸惑うのはMTです。

GAについてですが、これは探索手法であり、学習ネットワークの場合、ある関数の最小値を探すことになります。しばしばミスが発生する。ネットワークの学習過程では、OROもGAも、勾配やアニーリング(GAに似た手法がある)も、極限を探そうとする。どの方法がより効果的であるかは、機能および品質基準(すなわち、最適なバリエーションを選択する基準)に依存します。GA は、あらゆる手法の中で最も普遍的なものです。いずれも、グローバルエクストリームを見つけることを保証するものではありません。

GAを使用することで、例えば、ネットワークアーキテクチャを同時に選択することができます。つまり、最適化されたパラメータと品質基準(GAでいうところのフィットネス関数)にネットワークアーキテクチャを含めることが可能です。もっといろいろな可能性があります。また、必要であればGAと一緒にOROを使うこともできます。

頑張ってください。


GAがニューラルネットワークで ないことは、すでに自分で答えていますね。NSと同じように簡単にグラデーション方式になるかもしれません。車と運転手がいます。また、車の運転を教える方法はいくつもありますが、その一つひとつは車ではありません。

これはスエッテンが 主張していることでもある。何を議論しているのかよくわからないのですが?

 
Farnsworth:

GAがニューラルネットワークでないことは、あなた自身が答えていますね。グラディエント法は、簡単なNSと同じかもしれませんね。車と運転手がいます。また、車の運転方法を教える方法はいくらでもありますが、その一つひとつは車ではありません。

これはスエッテンが 主張していることでもある。あなたの主張がよくわからないのですが?

だから、私はGAがNSだと主張したわけではありません。Svetlanaのフレーズを受けて、NSとGAがどのようにつながるかを示しました。

Напомню изначальное утверждение: НС и ГА -- совершенно разные вещи, между собой никак не связанные.

そのような関連性はないこと。


頑張ってください。
 
VladislavVG:

だから、私はGAがNSだと主張したわけではありません。私は、Svetlanaの「そんなものはない」という言葉に対して、NSとGAの関連性を示しました。

1.スレッドをよく読まずに、このフレーズが何を指しているのか理解できなかったのでしょう。

2.一番面白いのは、彼らは本当に何もしていないことです。GAを加えれば別物、OROを加えれば別物、他のものを加えれば別物です。

3.GAとは、あくまでも最適化の仕組みです。これは普遍的なメカニズムであることを指摘しておきます。つまり、NS最適化のためのものも含めて、普遍的なものなんです。

2と3については、NSとGAは関係ないというのが私の結論です。

 

NS - 変換手法(近似,分類,フィルタリング,論理変換など何でもよい).

GA - 最適化手法。

一方は他方ではなく、互いに置き換えられるものではありません。そしてバスタ。

NSに関する多くの記事や書籍で、人工ニューラルネットワークの 話をすると、それがOROによって訓練されていることを暗に示し、読者に誤解を与えている。そればかりか、あるネットワークが他の最適化アルゴリズムで学習された場合、それはすでに全く別のネットワークであるにもかかわらず、そのような「他の」ネットワークに全く異なる性質を帰する「そんなネットワークはうまくいかない、なぜなら...」という発言に遭遇したことがあります。これは羊の小便です。ネットワークはネットワークですから、どんな最適化手法で訓練しても、その性質は変わりません。トレーニングの質が変わるかもしれない、ただそれだけです。