これらの問題に応えるため、論文「Parsimony or Capability? Decomposition Delivers Both in Long-term Time Series Forecasting」の著者らは、新しいアプローチとしてSSCNN (Selective Structured Components-based Neural Network)アーキテクチャを提案しています。 このモデルは、精度、パラメータ効率、そして分析的な厳密性を兼ね備えています。 従来の手法とは異なり、SSCNNは、パッチ化に対する特徴分解の利点を初めて形式的に分析し、その優位性を効率性とコンパクト性の両面から裏付けています。 さらに、ここでは選択機構によって基本的な分解が強化されています。このモデルは、個々の時間ステップのレベルで重要な関係を特定できるため、構造成分の再構築精度が大幅に向上し、ひいては予測全体の精度も向上します。
新しい記事「取引におけるニューラルネットワーク：スケーリングの代わりに分解する(SSCNN)」はパブリッシュされました:
効果的であるだけでなく少ないパラメータで済むモデルを構築することが目的であれば、パラダイムそのものを再考する必要があります。つまり、潜在空間で構造を再構築するのではなく、最初からデータに含まれる規則性を保持し、活用する方が望ましいのです。 最近の研究では、特徴分解によって、大規模なモデルを使用しなくても精度を大幅に向上できることが示されています。 しかし、このアプローチにも限界があります。 何よりもまず、特にデータに複雑な時空間的関係が存在する場合、長期予測タスクへの適用には限界があります。 さらに、分析面での課題もあります。すなわち、分解はなぜ、どのように機能し、パッチ化と比較してどのような点で優れているのか、という問題です。
これらの問題に応えるため、論文「Parsimony or Capability? Decomposition Delivers Both in Long-term Time Series Forecasting」の著者らは、新しいアプローチとしてSSCNN (Selective Structured Components-based Neural Network)アーキテクチャを提案しています。 このモデルは、精度、パラメータ効率、そして分析的な厳密性を兼ね備えています。 従来の手法とは異なり、SSCNNは、パッチ化に対する特徴分解の利点を初めて形式的に分析し、その優位性を効率性とコンパクト性の両面から裏付けています。 さらに、ここでは選択機構によって基本的な分解が強化されています。このモデルは、個々の時間ステップのレベルで重要な関係を特定できるため、構造成分の再構築精度が大幅に向上し、ひいては予測全体の精度も向上します。
このフレームワークの著者らが実施したベンチマークタスクでのSSCNNのテスト結果は、予測品質の面で既存の手法を一貫して上回る一方、99%のケースでPatchTSTやiTransformerよりも少ないパラメータ数で済むことを示しています。 さらに注目すべきことに、長期予測タスクにおいて、SSCNNは超コンパクトなDLinearモデルと比較しても、パラメータ数を87%削減しています。
SSCNNは、計算能力を増強することによってではなく、データ構造を巧みに活用し、精密に設計することによって、一歩前進を実現しています。 このアプローチは、質の高い予測への道は「量」ではなく「理解」にあることを示唆しています。
作者: Dmitriy Gizlyk