記事「取引におけるニューラルネットワーク：シャープネス低減によるTransformerの効率向上（最終回）」についてのディスカッション

新しいコメント
 

新しい記事「取引におけるニューラルネットワーク：シャープネス低減によるTransformerの効率向上（最終回）」はパブリッシュされました:

SAMformerは、長期の時系列予測におけるTransformerモデルの主要な欠点、すなわち学習の複雑さや小規模データセットでの汎化性能の低さに対して解決策を提供します。その浅いアーキテクチャとシャープネス認識型最適化により、不適切な局所解に陥ることを防ぎます。本記事では、MQL5を用いたアプローチの実装を続け、実際的な価値を評価していきます。

3つのモデルすべての学習は同時におこなわれました。学習済みActor方策のテスト結果は以下に示します。テストは2024年1月の実際の過去データを対象におこない、その他の学習パラメータは変更していません。

結果を確認する前に、モデル学習に関していくつか述べておきます。第一に、SAM最適化は本質的に損失関数のランドスケープを平滑化します。これにより、より高い学習率を検討できるようになります。以前の研究では主に学習率3.0e-04を使用していましたが、今回は1.0e-03に引き上げました。

第二に、Attention層を1つだけ使用したことで、学習可能なパラメータの総数が削減され、SAM最適化に必要な追加のフィードフォワード処理による計算負荷を相殺するのに役立ちました。


作者: Dmitriy Gizlyk

 

月に0.35％の利益？銀行に預けた方が得では？

 
dsplab #:

毎月0.35％の利益？銀行に預けた方が得では？

ロシアの銀行のドル建て年収。12で割って比較してください。

 
Dmitriy Gizlyk #:

ロシアの銀行のドル建て年収。12で割って比較する。

元では6、元債券では10以上。

 
Evgeny Belyaev #:

人民元で6、人民元建て債券で10以上。

しかし、EURUSDでテストした結果と米ドルでの結果は記事に記載されている。同時に、預金の負荷は1-2％である。 そして、誰もそれが聖杯であると書いていない。

 
Dmitriy Gizlyk #:

しかし、記事にはEURUSDでのテスト結果と米ドルでの結果が示されている。同時に、入金に対する負荷は1-2％である。 そして、誰もそれが聖杯であるとは書いていない。

OK]をクリックします。

 
素晴らしい記事だ。
 
dsplab #:

月に0.35％の利益？銀行に預けた方が得では？

.





新しいコメント