記事「ニューラルネットワークが簡単に（第94回）：入力シーケンスの最適化」についてのディスカッション

新しいコメント
 

新しい記事「ニューラルネットワークが簡単に（第94回）：入力シーケンスの最適化」はパブリッシュされました:

時系列を扱うときは、常にソースデータを履歴シーケンスで使用します。しかし、これが最善の選択肢なのでしょうか。入力データの順序を変更すると、訓練されたモデルの効率が向上するという意見があります。この記事では、入力シーケンスを最適化する方法の1つを紹介します。

Transformerアーキテクチャを用いたモデルでは、長期的な依存関係を検出する有効性は、シーケンスの長さ、位置エンコーディングの戦略、データのトークン化など、さまざまな要因に大きく依存します。

こうした課題を背景に、論文「Segment, Shuffle, and Stitch:A Simple Mechanism for Improving Time-Series Representations」の著者は、履歴シーケンスの最適な使用というアイデアに達しました。手元のタスクを考慮すると、より効率的な表現学習を可能にする、より優れた時系列の構成はあるでしょうか。

この記事では、時系列データの表現を最適化するために設計された、Segment, Shuffle, Stitch (S3)と呼ばれるシンプルかつ即時利用可能なメカニズムを紹介します。その名前が示すように、S3は時系列データを複数の重複しないセグメントに分割し、それらを最適な順序にシャッフルしてから、新しいシーケンスとして結合する仕組みです。ここで重要な点は、セグメントのシャッフル順序がタスクごとに学習されるということです。

作者: Dmitriy Gizlyk

 
'NeuroNet.cl' as 'const string cl_program' NeuroNet.cl 1 1
コンパイルできません。
 
もうひとつ質問です。古いデータを使わずに実行することはできますか？また、どのような順番で実行すればいいのでしょうか？
 
include "legendre.mqh "はどこにありますか？
 
star-ik #:
#include "legendre.mqh" ファイルはどこにありますか？

指定されたライブラリはFEDformerで 使用されています。この記事の目的からすると、この行は単に削除すればよい。

Нейросети — это просто (Часть 89): Трансформер частотного разложения сигнала (FEDformer)
Нейросети — это просто (Часть 89): Трансформер частотного разложения сигнала (FEDformer)
  • www.mql5.com
Все рассмотренные нами ранее модели анализируют состояние окружающей среды в виде временной последовательности. Однако, тот же временной ряд можно представить и в виде частотных характеристик. В данной статье я предлагаю вам познакомиться с алгоритмом, который использует частотные характеристики временной последовательности для прогнозирования будущих состояний.
 
Dmitriy Gizlyk #:

指定されたライブラリがFEDformerで 使用されています。この記事の目的では、この文字列は単に削除すればよい。

ドミトリー、#93の前の記事の私のコメントに返信してくれる？

新しいコメント