記事「機械学習におけるガウス過程:MQL5による回帰モデル」についてのディスカッション

 

新しい記事「機械学習におけるガウス過程:MQL5による回帰モデル」はパブリッシュされました:

確率的機械学習モデルとしてのガウス過程(GP)の基本を概説し、合成データを用いて回帰問題への応用例を示します。

ガウス過程(GP, Gaussian Process)は、機械学習において回帰や分類問題に広く利用されているベイズ的ノンパラメトリックモデルです。従来の多くのモデルが点予測のみを提供するのに対し、GPは予測値に対する確率分布全体を生成します。そのため、単なる予測値だけでなく、信頼区間などによる不確実性の評価も可能です。これは、事前知識と観測データを統合して予測分布を導くこれは、ベイズアプローチを特徴づける重要な性質です。

GPは、共分散関数(カーネル)を用いてデータ間の依存関係をモデル化するカーネル法の一種です。異なるカーネルを加算や乗算によって組み合わせることで、予測関数の特性を柔軟に表現できます。また、各カーネルには固有のハイパーパラメータが存在し、これらを最適化することでモデル性能を向上させることができます。

本記事では、ガウス過程回帰モデルによる予測の仕組みを詳しく解説し、GPが高精度な予測を実現するだけでなく、その予測に伴う不確実性も定量的に評価できることを示します。


作者: Evgeniy Chernish

 

面白いですね。

どういうわけか、画像の大部分が表示されません。

 
もう一度確認していただけますか
 
Rashid Umarov #:
もう一度確認していただけますか
ありがとうございます。これで画像はすべて読み込まれました。
 
続編を心待ちにしています。
 
回帰のためのガウス過程と ウィーナー・キンチン定理の間には強い関連性がある https://danmackinlay.name/notebook/wiener_khintchine.html https://www.numberanalytics.com/blog/wiener-khinchin-theorem-guide この方向で引き続き解説していただければ、 大変ありがたいです
削除済み  
数学的には美しい手法ですが、例えばサポートベクター法 と同様に、ニッチな用途に限られてしまいました。実際には、どこかで使われているという話は全く耳にしません :) ガウス混合モデルに基づくモデルはすべて、大規模なデータに対しては処理が遅く、性能も劣ります。
 
nevar #:
回帰のためのガウス過程と ウィーナー・キンチン定理の間には強い関連性があります。 https://danmackinlay.name/notebook/wiener_khintchine.htmlhttps://www.numberanalytics.com/blog/wiener-khinchin-theorem-guide この方向で引き続き解説していただければ、 大変ありがたいです
フーリエ解析は、やはり定常性や線形関係に関するものが多いですね。ARIMAモデルを用いて時間領域で扱う方が簡単ですが、これはある意味でフーリエ解析と同等です。

一方、GPは非線形な関係の探索が主眼であり、その意味ではMLPなどのニューラルネットワークとそれほど遠くはありませんが、外挿や予測信頼区間の構築が可能という点が異なります。

そのため、現時点ではフーリエ変換については取り上げる予定はなく、GPに関する続編をお届けする予定です。

 
Maxim Dmitrievsky サポートベクター法 と同様に、ニッチな存在となってしまいました。現実には、どこかで実際に使われているという話は全く耳にしません :) ガウス混合モデルに基づくモデルはすべて、大規模なデータに対しては処理が遅く、性能も芳しくありません。
確かにあまり人気のある手法ではありませんが、私はそこに将来性を感じています。 私が惹かれるのは、カーネルアプローチを理解することで、データ分析に対する統一された一貫した視点を得られるという点です。ここには、回帰、分類、カーネル密度推定、特徴量の選択、独立性の統計的検定などがすべて含まれています。


削除済み  
Evgeniy Chernish #:
確かにあまり人気のある手法ではありませんが、私はそこに将来性を感じています。 私が惹かれるのは、カーネルアプローチを理解することで、データ分析に対する統一された一貫した視点を得られるという点です。ここには、回帰分析、分類、カーネル密度推定、特徴量の選択、独立性の統計的検定などがすべて含まれています。


いずれにせよ、興味深いですね :)