記事「取引におけるニューラルネットワーク：多変量時系列予測のためのエンドツーエンドモデル（主要構成要素）」についてのディスカッション
非常に興味深い記事であり、GinAR実装シリーズの貴重な続編となっています。現在、私たちはアルゴリズム取引向けの、より広範な多段階機械学習研究フレームワークを開発中であり、特に「資産横断的なモデリングによって、従来の銘柄別モデルでは捉えきれない情報が得られるかどうか」という点を積極的に調査していることから、このアーキテクチャに強く関心を引かれました。
私たちのフレームワークは、市場データの収集、特徴量エンジニアリング、履歴データセットの構築、モデル研究、検証、候補生成、実行という各層を意図的に独立させて構成されています。 機械学習は、直接的な取引権限の源泉ではなく、証拠層 として扱われます。したがって、モデルがインサンプルで良好なパフォーマンスを示しているという理由だけで、下流の取引決定に影響を与えることは許されず、まずアウトオブサンプルの安定した増分価値を実証しなければなりません。
現在、当社はFX、金、米国株価指数、株式、エネルギー商品を網羅するマルチアセット・ユニバースを扱っています。履歴データは、「ブロンズ」→「シルバー」→「ゴールド」というパイプラインを通じて処理され、厳格な時点管理が行われています。意思決定時点で利用可能な情報は、ラベル付けや結果分析に使用される将来の情報とは分離して管理されます。
現在のゴールドのトレーニングデータセットには、観測値ごとに142のソース特徴量が 含まれており、そのうち129が数値特徴量、13がカテゴリカル特徴量です。特徴量セットには、ボラティリティ、トレンド、モメンタム、市場構造、ブレイク挙動、価格変動のコンテキスト、流動性条件、セッション状態、その他の決定論的な市場記述子が含まれます。
GinARのテストに先立ち、我々はすでにロジスティック回帰、XGBoost、LightGBM、CatBoostを用いた第2世代のモデルファミリーを構築していました。これらのモデルは、時系列ウォークフォワード検証、閾値スクリーニング、ブートストラップ安定性分析、キャリブレーションチェック、レジーム分析、および未処理のホールドアウト段階を用いて評価されました。
10の銘柄が、当社の「ディープ・バリデーションPASS」候補段階に到達しました：
GBPUSD、USDCHF、US500、US30、USDCAD、EURUSD、USDJPY、EURGBP、USTEC、XAUUSD。
これらが、GinAR実験の初期の研究対象群となりました。
GinARが私たちにとって特に興味深い点は、既存のモデルとは根本的に異なる要素を導入していることです。現在のGEN2モデルは主に銘柄ごとの分類器であるのに対し、GinARは複数の銘柄にわたる動的なクロスアセット関係や 潜在表現を 同時に学習する可能性を提供します。
金融市場においてこれは特に重要な意味を持ちます。なぜなら、金融商品は互いに独立していないからです。通貨、金、株価指数、その他の資産間の関係性は、市場環境、ボラティリティ、取引セッションの構造によって変化します。さらに、マルチアセットの取引対象範囲には、すべての金融商品が同時に有効な気配値やアクティブな取引セッションを持っているわけではない期間が必然的に存在します。
このため、我々は取引権限を持たず、既存の実行システムにも影響を与えない、完全に独立した「GinARリサーチ部門」を設立しました。
その目的は、本記事の実装を逐行再現することでも、既存のモデルを直ちに置き換えることでもありませんでした。むしろ、より限定的な研究課題に答えを出したいと考えたのです。
GinARスタイルのクロスアセット・グラフモデルは、既存の銘柄別GEN2モデルを超える、追加のアウト・オブ・サンプル情報を提供できるか？
したがって、当社の実装は、以下の主要なアーキテクチャのアイデアに基づいた、クリーンルーム方式で構築されたGinAR着想の研究モデルとなりました：
- 補間アテンション、
- 適応型グラフ関係、
- グラフ畳み込み変換、
- リカレントグラフ状態、
- ノードレベルの分類。
最初の実験では、Gold特徴量契約の共通の数値部分を使用し、モデルにノードあたり129個の数値特徴量 を与えました。
この実験で使用したターゲットは、240分間のWHIPSAW分類問題 でした。
ラベルの整合性は、重要な方法論上の課題であることが判明した。我々の過去のラベルには以下が含まれている：
WHIPSAW
NO_WHIPSAW
AMBIGUOUS_FIRST_MOVE
、また場合によっては INCOMPLETE も含まれています。
「AMBIGUOUS_FIRST_MOVE」は、同じM1小節内で両方のファーストムーブ・バリアが検出された場合に発生し、これは利用可能なソースデータからは実際の小節内順序を特定できないことを意味する。
そこで、我々は明示的な以下の処理を採用した：
AMBIGUOUS_DO_NOT_GUESS
というポリシーを採用しました。
バイナリ・ターゲット・コントラクトは次のようになりました：
WHIPSAW = 1
NO_WHIPSAW = 0
一方、AMBIGUOUS_FIRST_MOVE および INCOMPLETE は、いずれかのクラスに強制的に分類されるのではなく、二値損失および評価指標から除外されました。
この点は私たちにとって重要でした。なぜなら、曖昧な結果を2つのクラスのいずれかに変換すると、人為的なラベルノイズが生じるからです。
また、厳格な先読み防止対策も講じました。
検証プロトコルは以下の通りでした：
180日間のトレーニング
30日間の検証
60日間のウォークフォワードステップ
240分のパージ／ギャップ
60日間の最終未処理ホールドアウト
初期のGinAR実験中、最終ホールドアウトデータは封印されたままでした。
意図的に、ランダムなトレーニング／テストの分割は避けた。
もう 1 つの重要な点は、欠落変数に関するものです。GinAR の「補間アテンション」は、取引セッションの違いにより、一時的に金融商品が入手できない場合のあるマルチアセット取引環境において、非常に有用である可能性があります。
しかし、我々はモデルを用いて過去の観測値を生成することはしなかった。
元のデータセットにおいて欠落していたソース観測値はそのまま欠落したままであり、マスクによって明示的に表現された。内部補間は、ニューラル表現の一部としてのみ使用された。再構築された値は、Goldデータセットには書き戻されなかった。
その後、6つの時系列ウォークフォワード・フォールド にわたってGinAR研究モデルを学習させた。
有効なターゲット観測値の数は多く、各フォールド間で比較的安定していた。その結果得られたOOF評価では、約114,558件のフォールド外予測が 生成された。
6つのフォールドにおけるPR-AUC値は以下の通りでした：
フォールド1：0.6894
フォールド2：0.6910
フォールド 3: 0.6833
フォールド4：0.6866
フォールド5：0.6584
第6期：0.6999
ほとんどのフォールドは比較的安定していましたが、フォールド5は著しく性能が低下していました。この期間は、後のレジームやグラフ構造の分析において特に興味深いものだと考えています。
次のステップは、私たちが最も重要だと考えた部分、すなわち既存のGEN2チャンピオンモデルとの直接比較でした。
GinARのOOF予測を、同じ銘柄／タイムスタンプの交点における対応するGEN2の予測と照合しました。
この比較には、90,122件のマッチしたアウト・オブ・フォールド観測値 が含まれていました。
結果は以下の通りでした：
Delta PR-AUC：-0.0161
デルタ LogLoss：+0.0059
PR-AUCが高いほど、LogLossが低いほど望ましいため、今回の結果は明らかに既存のGEN2モデルの方が優れていることを示しています。
言い換えれば、最初の実験において、GinARは単独のWHIPSAW分類器として、既存のロジスティック回帰／XGBoost／LightGBM／CatBoostモデル群の性能を上回ることはできませんでした。
したがって、我々はGinARをGEN2の代替として推奨しなかった。
しかし、この結果によって、GinAR が金融アプリケーションにとって興味をそそらないものになったとは思いません。
実際、この実験結果は、このアーキテクチャの最も価値のある部分は、必ずしも最終的なスタンドアロンの分類器ではないことを示唆しているかもしれません。
GinARは、シンボルごとの独立したモデルには本来備わっていない、資産横断的な潜在表現 を生成します。
このため、我々は GinAR を研究用エンコーダーとして維持し、次の研究課題を「
「GinARはGEN2に取って代わることができるか？」
から、
「GinARはGEN2を補完するクロスアセット情報を提供できるか？」
したがって、次に計画している実験は以下の通りです：
GEN2ベースライン
対
GEN2 + GinARによるクロスアセット埋め込み
を比較し、フォールドセーフなスタッキング、確率的不一致分析、レジーム分析、グラフ安定性分析、およびアブレーションテストを実施します。
特に、GEN2のチャンピオンモデルが誤りである一方でGinARが正しいケース、およびその逆のケースを検証することに重点を置いています。これらの誤りセットが十分に異なっていれば、GinARの単独でのPR-AUCが低くても、追加の特徴量層として有用である可能性があります。
また、学習された隣接行列が時間経過とともに安定しているか、あるいは異なるボラティリティや市場レジームにおいて金融商品間の関係性が実質的に変化するかどうかについても検証する予定である。
この点において、グラフベースのモデルはトレーディングシステムにおいて特に有用になると我々は考えています。
例えば、次のような関係の重要性が挙げられます：
金 ↔ 米ドル、
FX ↔ 米国株価指数、
USDCAD ↔ エネルギー、
あるいはUSTEC ↔ 大型ハイテク株
といった相関関係が、必ずしも時間の経過とともに一定であり続けるとは限らない。
これらの関係を動的に学習できるモデルは、たとえその直接的な分類ヘッドが単独では最強の予測因子でなかったとしても、貴重な文脈情報を提供し得る。
また、我々の実験から得られた方法論的な教訓として、トレーニング損失や単一のバックテストのみに基づいて新しいニューラルネットワークのアーキテクチャを評価してしまうことは非常に容易であるという点も言及する価値がある。同じアウトオブフォールドの観測値を用いて既存のベンチマークと比較した結果、モデルの解釈が変化した。
私たちにとって、この種の比較は不可欠です。
新しいモデルは、単に妥当な指標を生成するという理由だけで有用であると見なされるべきではありません。そのモデルは、以下のいずれかを実証しなければなりません：
- より優れた予測性能、
- より優れたキャリブレーション、
- より優れた頑健性、
- 補完的な誤差、
- 有用な潜在表現、
- あるいは、既存のシステムと組み合わせた際の測定可能な付加価値。
したがって、現段階での我々の結論は以下の通りである：
GinARは現時点では、我々のGEN2モデルよりも優れたスタンドアロン分類器とは言えないが、クロスアセット表現および特徴生成層としては依然として有望な候補である。
モデル開発の意思決定においてホールドアウトセットを繰り返し使用することを避けるため、次の研究段階が定義されるまで、意図的に最終的な未処理のホールドアウトセットを非公開にしてきました。
著者が今後行う実市場データを用いた実験、特に以下の点について非常に興味があります：
- ウォークフォワード検証下でのGinARの挙動、
- 異なる取引セッション間で欠損変数がどのように扱われるか、
- 学習されたグラフ構造がレジームをまたいで安定しているかどうか、
- このアーキテクチャが予測と分類のどちらにおいてより効果的か、
- そして、より強力なツリーベースのモデルと組み合わせた場合、グラフ埋め込みが追加の価値をもたらすかどうか。
このシリーズを公開していただき、ありがとうございます。これは、多変量グラフベース学習を金融時系列に適用する上で、私たちがこれまでに出会った中でも特に興味深い方向性のひとつです。
私たちの最初の独立した比較では、GEN2に対して単独での優位性は示されませんでしたが、この実験は、GinARを単なる別の分類器としてではなく、クロスアセット・インテリジェンス層として 活用するという、私たちにとって新しく、かつより有用な可能性を秘めた研究の方向性を切り開いてくれました。
次回の記事を楽しみにしております。また、私たちの知見と著者の市場データに基づく結果を比較できることを大変楽しみにしています。
- 無料取引アプリ
- 8千を超えるシグナルをコピー
- 金融ニュースで金融マーケットを探索
新しい記事「取引におけるニューラルネットワーク：多変量時系列予測のためのエンドツーエンドモデル（主要構成要素）」はパブリッシュされました:
補間アテンション（Interpolation Attention）メカニズムは、このアーキテクチャにおいて中心的な役割を果たしています。これは古典的なSelf-Attentionカーネルではなく、変数間のグローバルな依存関係と観測のローカルコンテキストの両方を考慮できる、本格的な適応型モジュールです。 実際には、たとえば、直近の観測値が欠けている場合でも、周辺の指標間の関係や市場全体の状況を利用して、金融指標の値を予測できます。 このような仕組みは、データの到着が遅れたり、不規則な間隔で届いたり、大きな欠損が生じたりする実環境において、特に重要です。
GinARの大きな特徴の一つは、学習中にグラフ構造を動的に再構成できることです。 多くのグラフベースのモデルでは、グラフ構造が事前に固定されていますが、GinARでは学習の過程でその構造が形成されます。 これにより、市場環境の変化、相関関係、潜在的な要因を考慮できるようになります。 モデルは、どの変数同士を結び付けるべきか、どの接続の影響を弱めるべきか、また、現在のコンテキストにおいてどの変数を重要なものとして扱うべきかを、自ら学習します。 その結果、市場レジームや市場の動態に適応できる柔軟なアーキテクチャが実現します。
前回の記事の実践セクションでは、OpenCLプログラム内で計算を実行するための基盤を整えるべく、多くの作業をおこないました。 局所的なリダクションやSoftMaxの計算から、補間アテンションモジュールにおける順伝播・逆伝播まで、主要な関数をすべて実装しました。 特に重視したのは、ローカルメモリの適切な管理、スレッド間の同期、そして数値安定性です。これらは、並列計算環境で不完全な時系列データを扱ううえで、非常に重要な要素です。
こうした準備によって、次の段階であるモデルのコア部分とメインプログラムとの統合に向けた道筋が整いました。 ここでアルゴリズムが実際に動き始めます。取引環境からデータを入力し、OpenCLデバイス上で処理した後、モデルに通して、予測結果や取引判断を出力します。 高水準のロジックと、低水準の高速計算処理をつなぐこの仕組みは、GinARアーキテクチャ全体を実装するうえで、極めて重要な要素となります。
作者: Dmitriy Gizlyk