論文「LightGTS: A Lightweight General Time Series Forecasting Model」の著者らは、単純にモデルの規模を拡大する力ずくのアプローチではなく、時系列が本来備えている性質、すなわちスケール不変性と周期性を活用するという合理的な方針を採用しました。 その成果として開発されたのが、実際の時系列予測タスクに適した、軽量かつ効率的な LightGTSフレームワークです。 その中核となる考え方は、スケールの違いに無理に対処するのではなく、スケールに応じてモデルを適応させることにあります。
新しい記事「取引におけるニューラルネットワーク：適応的周期セグメンテーション(LightGTS)」はパブリッシュされました:
時系列データを特徴づけるのは、そのリズムです。 トークンが単語に対応するテキストとは異なり、時系列ではデータのスケールと周期性が重要な意味を持ちます。 たとえば、1時間ごとに観測されるデータもあれば、15分ごとに観測されるデータもあります。 また、日次・週次の季節性を示すものもあれば、四半期・年次の季節性を示すものもあります。 こうした特性は、データ内部で繰り返し現れるパターン、すなわち*内部周期*に影響を与えます。内部周期を適切に捉えることは、高精度な予測を実現するうえで極めて重要です。 さらに、データのスケールが変われば周期長も変化します。モデルがこうした変化に対応できなければ、汎化能力は大きく低下します。
問題は、既存モデルの多くが固定的なトークン化方式を採用していることです。 これらのモデルは、データのスケールや周期構造を考慮せず、一定の長さを持つセグメントに機械的に分割します。 その結果、一部のトークンには情報が過密に入り込み、別のトークンはほとんど情報を持たなくなります。 これによって情報の特徴が曖昧になり、繰り返し現れるパターンも損なわれてしまいます。 この問題は、あるスケールのデータで学習したモデルを、異なるスケールのデータに適用する場合に特に顕著になります。予測精度が低下し、それを補うためにパラメータ数を増やさなければならず、結果として学習時間とコストも増大します。
論文「LightGTS: A Lightweight General Time Series Forecasting Model」の著者らは、単純にモデルの規模を拡大する力ずくのアプローチではなく、時系列が本来備えている性質、すなわちスケール不変性と周期性を活用するという合理的な方針を採用しました。 その成果として開発されたのが、実際の時系列予測タスクに適した、軽量かつ効率的な LightGTSフレームワークです。 その中核となる考え方は、スケールの違いに無理に対処するのではなく、スケールに応じてモデルを適応させることにあります。
固定長のセグメントに機械的に分割する代わりに、周期的トークン化を採用します。 この手法では、完全な1周期に相当する長さのセグメントが得られるよう、データを適応的に分割します。 これにより、日足チャートでも1分足チャートでも、データのスケールにかかわらず、周期的なパターンを全体として捉えられるようになります。 トークン内の意味的な情報が保持されるため、特徴表現の安定性が高まり、異なるタスク間でも転移しやすくなります。
作者: Dmitriy Gizlyk