記事"ディープニューラルネットワーク(その7)ニューラルネットワークのアンサンブル: スタッキング"についてのディスカッション

 

新しい記事 ディープニューラルネットワーク(その7)ニューラルネットワークのアンサンブル: スタッキング はパブリッシュされました:

アンサンブルの構築を続けます。今回は、以前に作成したバギングアンサンブルに、訓練可能な結合器、つまりディープニューラルネットワークが追加されます。ニューラルネットワークの1つは、刈り込み後に7つの最良アンサンブル出力を組み合わせます。2つ目はアンサンブルの500個の出力をすべて入力として取り込み、刈り込んで結合します。ニューラルネットワークは、Python用のKeras/TensorFlowパッケージを使用して構築されます。このパッケージの特徴には簡単に触れます。テストが実行されて、バギングアンサンブルとスタッキングアンサンブルの分類品質が比較されます。

訓練履歴をプロットしましょう。

history_stop_500

図11 DNN500ニューラルネットワーク訓練履歴

分類品質を向上させるために、ニューロンの初期化方法、ニューロンの活性化の正則化およびその重みなど、多くのハイパーパラメータを変更することができます。ほぼ直観的に選択されたパラメータで得られた結果は、有望な品質を有しますが、失望もあります。最適化なしでは、精度を0.82以上に上げることはできませんでした。結論は、ニューラルネットワークのハイパーパラメータを最適化する必要があるということです。前回の記事では、ベイジアン最適化を実験しました。ここでも同様に適用はできますが、これは別の難しいトピックです。

作者: Vladimir Perervenko

削除済み  

あなたの次の記事では、Pythonだけに切り替える可能性はありますか? なぜなら、プリインストールされているパッケージや環境の量は、すぐに指数関数的に 増え始めるからです。

スタッキングについては興味深いです。)

 
Maxim Dmitrievsky:

あなたの以下の記事で、Pythonだけに乗り換える可能性はありますか? プリインストールされたパッケージや環境の量は、すぐに指数関数的に 増え始めるだろうから。

スタッキングについては興味深いです。)

そして現在も将来も、Rでの計算はすべてPythonのパッケージ(モジュール)を使っています。たくさんありますよ。

削除済み  
Vladimir Perervenko:

そして現在も将来も、すべての計算はRで行うが、Pythonのパッケージ(モジュール)を使う。たくさんあるよ。

わかった、偽造してみるよ :)

 
こんにちは、ウラジミール教授
KIRSは機械ではなく人間のために設計されているので、EAに統合することはできません。
ツイッターの センチメント分析や経済ニュースのテキスト分析など、KIRASディープグリッドモデル用の入力多様性モデルの例を構築できますか?
ご挨拶と平和ز ،
 
azzeddine remmal:
こんにちは、ウラジミール教授
KIRSは機械ではなく人間のために設計されているので、EAに統合することはできません。
ツイッターのセンチメント分析や経済ニュースのテキスト分析など、KIRASディープグリッドモデル用の入力多様性モデルの例を構築できますか?
ご挨拶と平和ز ،

はじめまして、azzeddineです、

Kerasは、構造的に複雑なモデルを構築するために最小限のコード量で済むという意味で、人間のために設計されています。もちろん、私たちはEAでこれらのモデルを使うことができますし、使うべきです。これは解決され、解決された問題に過ぎない。そうでなければ、なぜこのような練習が必要なのでしょうか?

もちろん、ツイッターのテキストメッセージやブロムバーグのニュースフィードの ムードを追跡・分析するモデルを構築することもできる。これは私がテストしたことのない別の分野であり、率直に言ってあまり信じていない。しかし、このトピックに関する例はインターネット上にたくさんある。

まずは簡単なものから始めてみてはどうだろう。

幸運を祈る。

 

ウラジミールさん、こんにちは。私はプログラマーで、主に.NET、c#を使用しています。あなたの記事に基づいて、mt5ターミナル用のExpert Advisorを作成しました。私はGPUサポートのKerasを使用しており、モデルのトレーニングにかかる時間と神経を節約し、R.Netを介してRとmt5をリンクしています(私はライブラリDLLを書きました。)H2Oも試しましたが、動作が遅く、GPUサポートはlinuxのみで、適していません。あなたの記事でKerasに切り替えたことをうれしく思う。Expert AdvisorはEURUSD 15Mで良い結果を示しました。データサンプルは2003年から2017年まで(トレーニング、テスト)、私はv.fatl、v.rbci、v.ftlmの3つの予測変数のみを使用しました。Expert Advisorはあなたのものとほとんど同じですが、少し修正して、損切り500、利食い100、私は10以上のポジションを開かず、すべてのポジションを閉じます。 新しいポジションがあれば、買います。まあ、このコードはすべてEURUSDのためのものであり、他の相場では、おそらくすべてが異なる方法で行う必要があります。

2017年から現在までのExpert Advisorの作業結果です:

テスト

セント口座にExpert Advisorを入れて2週間テストしたが、今のところプラスで機能している。ニューラルネットワークモデルの検索とテストに多くの時間を費やし、Dense、LSTM、CONVネットワークのさまざまなバリエーションを試しましたが、私はシンプルなDenseに止まりました。また、さまざまな予測因子の選択、DigFiltr+あらゆる種類の指標、あなたの予測因子は、追加指標なしで最高の結果を示しました。私はこれが限界ではなく、もっと良いEAを作ることができると思います。もしよろしければ、私の成功についてもお知らせします。

 
Евгений Чистюхин:

...、R.Net経由でRとmt5をリンクした(dllライブラリを書いたのでgithubに載せられる)。

これはとても興味深い。

どこで見ることができますか?

あなたのライブラリはこのライブラリ より優れていますか?

 

ウラジミール・ペレヴェンコ

Pythonのkeras/TensorFlowパッケージを使ってニューラルネットワークを構築する。

Rの何が問題なのか

keras:「Keras」へのRインターフェース

または

kerasR: KerasディープラーニングライブラリへのRインターフェース

CRAN - Package keras
  • cran.r-project.org
About Keras Layers About Keras Models Using Pre-Trained Models Keras Backend Writing Custom Keras Layers Frequently Asked Questions Guide to the Functional API Getting Started with...
 
Евгений Чистюхин:

ウラジミールさん、こんにちは。私はプログラマーで、主に.NET、c#を使用しています。あなたの記事に基づいて、mt5ターミナル用のExpert Advisorを作成しました。私はGPUサポートのKerasを使用しており、モデルのトレーニングにかかる時間と神経を節約し、R.Netを介してRとmt5をリンクしています(私はライブラリDLLを書きました。)H2Oも試しましたが、動作が遅く、GPUサポートはlinuxのみで、適していません。あなたの記事でKerasに切り替えたことをうれしく思う。Expert AdvisorはEURUSD 15Mで良い結果を示しました。データサンプルは2003年から2017年まで(トレーニング、テスト)、私はv.fatl、v.rbci、v.ftlmの3つの予測変数のみを使用しました。Expert Advisorはあなたのものとほとんど同じですが、少し修正して、損切り500、利食い100、私は10以上のポジションを開かず、すべてのポジションを閉じます。 新しいポジションがあれば、買います。まあ、このコードはすべてEURUSDのためだけのものであり、他の引用符のために、それは別のすべてを行う必要があるかもしれません。

ここに2017年から現在までのExpert Advisorの作業結果があります:

セント口座にExpert Advisorを導入し、2週間テストしましたが、今のところプラスで機能しています。ニューラルネットワークモデルの検索とテストに多くの時間を費やし、Dense、LSTM、CONVネットワークのさまざまなバリエーションを試しましたが、私はシンプルなDenseに止まりました。また、さまざまな予測因子の選択、DigFiltr+あらゆる種類の指標、あなたの予測因子は、追加指標なしで最高の結果を示しました。私はこれが限界ではなく、もっと良いEAを作ることができると思います。もしよろしければ、私の成功についてもお知らせします。

こんにちは、ユージーン。

私の記事の資料がお役に立てたようで嬉しいです。いくつか質問があります。

1.私が理解する限り、あなたはRのためにkerasを使用していますか? あなたはRまたはPythonでスクリプトを書いていますか?

2.私たちが使用しているゲートウェイライブラリは、あなたのために動作しませんでしたか?こちらを 参照してください。

3.ライブラリのバージョンとスクリプトの例を投稿してください。見て、試して、比較するのは面白いです。

4.もちろん、私も、そして多くの愛好家も、あなたの実験にとても興味があると思います。

5.言語やモデルに関する具体的な質問について、氾濫することなく議論することが可能な、別のRUSERGroopスレッドを開くことを、私は長い間考えていました。夢

Python(reticulate)へのAPIの登場は、どんな複雑なシステム構築にもほぼ無限の可能性を開く。近い将来、ニューラルネットワークと並行して強化学習でトレーニングする計画がある。

あなたの成功について書き、質問してください。

幸運を祈る。

 
СанСаныч Фоменко:

ウラジーミル・ペレヴェンコ

Pythonのkeras/TensorFlowパッケージを使ってニューラルネットワークを構築する。

Rの何が問題なのか

keras:'Keras'へのRインターフェース

または

kerasR: KerasディープラーニングライブラリへのRインターフェース。

はじめまして、CCです。

これが私の使い方です。R用のkerasです。KerasRも試しましたが、tensorflowバックエンドの開発が非常に速い(すでにバージョン1.8)ため、Rstudioチームが開発・保守しているパッケージを使う方が確実です。

幸運を祈る。