競争学習アルゴリズム(CLA)
内容
はじめに
過去数十年にわたり、アリのコロニーや粒子群から、ハイイロオオカミやクジラに至るまで、多くの生物着想型アルゴリズムが提案されてきました。しかし、複雑な社会的相互作用を持つ人間社会もまた、効果的な最適化手法のための豊かな着想源となり得ます。この考え方が、競争学習アルゴリズム(CLA)の基盤となっています。
CLAでは、教育プロセスをメタファーとして利用し、解の集団をクラスに編成された生徒として表現します。このアルゴリズムは、3種類の学習を巧みにモデル化します。それは、クラス内で最も優れた生徒から学ぶこと、個人的な経験から学ぶこと、そしてクラス間の相互作用を通じて学ぶことです。このアプローチにより、探索空間を広く調べることと、発見された優れた解を活用することとのバランスが取られます。これは、効果的な最適化において極めて重要な要素です。
本記事では、CLAの基本原理、数学的基礎、実装上の特徴について詳しく検討します。また、標準的なテスト関数を用いて、他の代表的なメタヒューリスティック手法との性能比較もおこないます。
アルゴリズムの実装
競争学習アルゴリズムは、学校における教育プロセスをメタファーとして構築されています。このメタファーでは、生徒が最適化問題における可能な解を表し、クラスは生徒のグループ、教師は各クラスで最も優れた生徒、知識は探索空間における座標に対応し、成績は適応度関数の値によって決定されます。
アルゴリズムは初期化から始まります。これは、学校の新学期の始まりに相当します。たとえば198人の生徒からなる集団を作成し、それを22人ずつ9クラスに分割します。各生徒には、探索空間内の座標として表される初期の「知識」がランダムに割り当てられます。
学習プロセスは反復的におこなわれ、各反復において生徒は3つの異なる方法で学習します。1つ目は教師主導の学習です。各生徒はクラスの教師役(そのクラスで最良の生徒)から学びます。クラスの成績が悪いほど学習プロセスは活発になりますが、時間の経過とともに全員の学習強度は低下します。2つ目は個人学習です。これは4回目の反復以降にのみ開始されます。このモードでは、生徒は過去4回の「授業」における自身の最良の結果を思い出し、自分自身の最良の位置へ戻ろうとします。3つ目は他のクラスからの学習で、これも4回目の反復以降に開始されます。50%の確率で、生徒はすべてのクラスから計算された平均教師から学習します。これにより、局所最適解に陥ることを回避できます。
各学習サイクルの後には、進捗が評価されます。各クラスで最も優れた生徒が特定され、教師となります。また、すべての生徒の成績を考慮してクラス全体の評価が計算され、これまでに見つかった全体最良の解が更新されます。
アルゴリズムでは、5つの主要なパラメータを使用します。
- popSize:生徒の総数
- numClasses:クラス数
- beta:クラス全体の評価に対する、クラス内の全生徒の影響度
- gamma:他のクラスから学習する確率
- deltaIter:個人的な経験とクラス間の相互作用を利用した拡張学習を開始する反復回数
アルゴリズムには、いくつかのスマートなメカニズムが実装されています。適応型の学習係数によって、成績の低いクラスほど集中的に学習し、時間の経過とともに学習速度が徐々に低下します。これは現実の教育プロセスと同様です。探索と活用のバランスは、初期段階で積極的に探索し、その後、発見された最良の解に焦点を移すことで実現されます。また、記憶メカニズムによって各生徒の履歴を記憶し、必要に応じて過去の良好な解へ戻ることができます。
数学的には、生徒の知識の更新は、現在の知識に3つの要素を加えたものとして表すことができます。それは、クラスの教師からの指導、個人的な過去の経験、そしてすべてのクラスの平均教師から得られる知識です。この式によって、リーダーに従うこと、個人的な経験を利用すること、新しい領域を探索することのバランスが取られます。
最終的に、アルゴリズムの有効性はいくつかの要因によって決まります。複数のクラスが探索空間内の異なる方向を探索することで、多様性が確保されます。教師の座をめぐる生徒間の競争が、より優れた解の発見を促します。クラス間で知識を共有する協調によって、早期収束を防ぎます。適応性によって成績の低いクラスに追加の支援が与えられ、記憶メカニズムによって良好な解に関する情報が保存されます。
図1:アルゴリズムの動作
アルゴリズムの動作を示した図では、初期化、学習フェーズ、評価と更新という3つの主要なステップが説明されています。それでは、CLA_Lアルゴリズムの疑似コードを書き始めましょう。
事前に必要なもの
- 198名の生徒(私たちの解)
- 9クラス(生徒グループ)
- パラメータβ = 0.9(クラス内の全生徒がどの程度重要か)
- パラメータγ = 0.5(他のクラスから学習する確率)
- 4回目の反復以降に追加の学習方式を導入
- 解の品質を評価する関数
開始
1. 学校を作る
- 198人の生徒を9クラスに分配する(各クラス22人)。
- 各生徒に探索空間内のランダムな初期位置を与える。
- 各クラスで最も優れた生徒を選び、その生徒を教師とする。
- 各生徒の履歴を記録するログを作成する。
2. 学習プロセス(反復プロセス)
ステップ1:学習強度を決定する
- 各クラスについて、生徒がどの程度積極的に学習する必要があるかを計算する。
- 成績の低いクラスほど、より集中的に学習する。
- 時間の経過とともに、全員の学習強度を低下させる(現実の教育と同様)。
ステップ2:「平均教師」を見つける
- すべての教師の位置を取得する。
- その平均値を計算する。
- これを学校全体の知識水準の目安とする。
ステップ3:各生徒が学習する
各生徒について:
a) 常に自分の教師から学ぶ
- クラスの教師がどこにいるかを確認する。
- その方向へ移動する。
- 移動速度はクラスの学習係数によって決まる。
b) 4回目の反復以降は、経験を思い出す
- ログを確認する。過去4回の授業で、自分が最も良かった位置はどこだったかを確認する。
- ある程度のランダムな力を加えて、その位置へ戻る。
- これによって、良好な解を保持することができる。
c) 4回目の反復以降は、他のクラスから学ぶ
- コインを投げる(50%の確率)。
- 裏が出た場合は、「平均教師」を参照する。
- その方向へ少し移動する。
- これによって、クラス間で経験を共有する。
ステップ4:すべての生徒を評価する
- 各生徒に適応度を与える。
- 位置が優れているほど、高い評価を与える。
ステップ5:学校の階層を更新する
各クラスについて:
- 新たに最も優れた生徒を見つけ、その生徒を教師とする。
- クラス全体のレベルを計算する。
* 教師の適応度を取得する。
* すべての生徒の平均成績を加える(βを乗算)。
- クラスの順位を決定する
* 最も優れたクラスには低い順位(1、2、3……)を与える。
* 最も成績の悪いクラスには高い順位を与える。
ステップ6:最良の解を記憶する
- いずれかの教師が現在の記録値より優れている場合、
- それを新しい記録として保存する
ステップ7:履歴を保存する
- すべての生徒の現在位置を保存する。
- これは個人学習に必要となる。
3.終了
- 発見された最良の解を返す。
- その適応度も返す。
それでは、アルゴリズムのコードを書き始めましょう。C_AO_CLA_lクラスは親クラスC_AOを継承し、競争学習の概念に基づくアルゴリズムを実装しています。このクラスには、ユーザーが設定可能ないくつかのパラメータが含まれています。
- popSize:集団サイズ(「エージェント」または「生徒」の数)
- numClasses:エージェントを分割するクラスの数
- beta:学習速度または適応速度に影響を与えるパラメータ
- gamma:学習プロセスに関連するもう1つのパラメータ
- deltaIter:アルゴリズムの特定の段階を開始する反復回数
コンストラクタでは主要なパラメータを初期化し、アルゴリズムの名前と説明を設定し、変数のデフォルト値を指定します。また、アルゴリズムのパラメータに関する情報を格納するために使用されるparams配列のサイズも設定します。
メソッド
- SetParams():params配列の値を使用して、クラス内部の変数(アルゴリズムのパラメータ)を更新します。これにより、外部から設定したパラメータを変更できます。
- Init ():アルゴリズムを初期化します。パラメータの境界と変更ステップを定義するための値を受け取ります。
- Moving ():エージェントを「移動」させるための主要なメソッドです。アルゴリズムの反復処理と各ステップを実行します。
- Revision ():解の修正または改善に関連するメソッドです。
- Injection ():新しい知識やデータをエージェントに挿入するためのメソッドです。
- numClasses、beta、gamma、deltaIter:アルゴリズムのパラメータ。
- currentIter、studentsPerClass、totalIters:アルゴリズムの処理フローを制御する内部変数。
- teachers []:各クラスの「教師」を表すS_AO_Agent構造体の配列です。各教師はアンカーポイントとして機能します。
- classRanks []:クラスの成績を表すクラス順位。
- classTotalCosts [] :各クラスの合計コスト、つまり「成績」。
- CL []:教師の平均知識を計算するための一時配列。
- UpdateTeachersAndCosts ():教師とそのコストに関する情報を更新する内部メソッド。
- UpdateClassRanks():クラスの順位を更新する内部メソッド。
- UpdateStudentsKnowledge():生徒の知識、つまりエージェントのパラメータを更新する内部メソッド。
//———————————————————————————————————————————————————————————————————— class C_AO_CLA_l : public C_AO { public: //---------------------------------------------------------- ~C_AO_CLA_l () { } C_AO_CLA_l () { ao_name = "CLA_L"; ao_desc = "Competitive Learning Algorithm"; ao_link = "https://www.mql5.com/ja/articles/18857"; popSize = 198; numClasses = 3; beta = 0.3; gamma = 0.8; deltaIter = 2; ArrayResize (params, 5); params [0].name = "popSize"; params [0].val = popSize; params [1].name = "numClasses"; params [1].val = numClasses; params [2].name = "beta"; params [2].val = beta; params [3].name = "gamma"; params [3].val = gamma; params [4].name = "deltaIter"; params [4].val = deltaIter; } void SetParams () { popSize = (int)params [0].val; numClasses = (int)params [1].val; beta = params [2].val; gamma = params [3].val; deltaIter = (int)params [4].val; } bool Init (const double &rangeMinP [], const double &rangeMaxP [], const double &rangeStepP [], const int epochsP = 0); void Moving (); void Revision (); void Injection (const int popPos, const int coordPos, const double value) { } //------------------------------------------------------------------ int numClasses; double beta; double gamma; int deltaIter; private: //--------------------------------------------------------- int currentIter; int studentsPerClass; int totalIters; // Structures for classes S_AO_Agent teachers []; double classRanks []; double classTotalCosts []; // Temporary array double CL []; // Average knowledge of teachers // Auxiliary methods void UpdateTeachersAndCosts (); void UpdateClassRanks (); void UpdateStudentsKnowledge (); }; //————————————————————————————————————————————————————————————————————
C_AO_CLA_lクラスのInit()メソッドは、アルゴリズムの動作開始前に初期化をおこないます。処理は複数の段階に分かれています。 標準初期化:StandardInit()メソッドを呼び出し、最適化アルゴリズムの標準的な初期化を実行します。このメソッドには、rangeMinP、rangeMaxP、rangeStepPの各ステップパラメータが渡されます。標準初期化に失敗した場合、Init()メソッドはfalseを返します。
アルゴリズムパラメータの初期化:現在の反復回数カウンタを「0」にリセットし、epochsP引数で渡された値を使用して、アルゴリズムが実行する総反復回数を設定します。次に、クラス数に対する個体数の除算によって、各クラスに所属する「生徒」(エージェント)の人数を計算します。その後、各クラスに少なくとも1人の生徒が存在することを確認します。続いて、forループによって母集団内の各エージェントを初期化します。各エージェントに対して、Init()メソッドが呼び出され、その座標配列が初期化されます。
次に、forループによって各クラスの「教師」を初期化し、各クラスのランクを1.0に設定するとともに、各クラスの初期「コスト」を負の最大値に設定します。これにより、その後、より優れた解が見つかるようになります。すべての初期化処理が正常に完了すると、メソッドはtrueを返します。
//———————————————————————————————————————————————————————————————————— bool C_AO_CLA_l::Init (const double &rangeMinP [], const double &rangeMaxP [], const double &rangeStepP [], const int epochsP = 0) { if (!StandardInit (rangeMinP, rangeMaxP, rangeStepP)) return false; //------------------------------------------------------------------ currentIter = 0; totalIters = epochsP; studentsPerClass = popSize / numClasses; if (studentsPerClass < 1) { Print ("Error: Too few students per class"); return false; } // Adjust the population size //spopSize = studentsPerClass * numClasses; ArrayResize (a, popSize); for (int i = 0; i < popSize; i++) a [i].Init (coords); // Initialize class structures ArrayResize (teachers, numClasses); ArrayResize (classRanks, numClasses); ArrayResize (classTotalCosts, numClasses); for (int i = 0; i < numClasses; i++) { teachers [i].Init (coords); classRanks [i] = 1.0; classTotalCosts [i] = -DBL_MAX; } // Temporary array ArrayResize (CL, coords); return true; } //————————————————————————————————————————————————————————————————————
C_AO_CLA_lクラスのMoving()メソッドは、最適化アルゴリズムのメインループにおける1回の反復を実行します。まず、初回の反復であるかどうかを確認します。初回の反復(revisionがfalse)の場合、指定された範囲内で母集団内のすべてのエージェントの位置をランダムな値で初期化します。集団内のすべてのエージェントを順番に処理し、各エージェントについて、そのすべての座標を順番に処理します。
各座標について、u.RNDfromCI()メソッドを使用して、rangeMin[c]からrangeMax[c]までの範囲でランダム値valを生成します。このメソッドは乱数を生成するために使用されます。生成したvalを、i番目のエージェントのa[i].c[c]座標に設定します。ただし、その前に値が許容範囲内に収まり、指定されたrangeStep[c]の刻みに一致するよう調整します。この処理には、値のチェックと調整をおこなうu.SeInDiSp()メソッドを使用します。
集団の初期化が完了すると、初期化が実行済みであることを示すフラグを設定します。初回の反復でない場合は、現在の反復回数カウンタをインクリメントします。続いて、UpdateStudentsKnowledge()メソッドを呼び出します。このメソッドは、CLA_Lアルゴリズムで採用されている競争学習の原理に従って、エージェントの学習・適応をおこなう主要なメカニズムを実装しています。このメソッドのロジックによって、エージェント同士の相互作用や情報共有がおこなわれ、解の探索空間における各エージェントの位置が改善されます。
//———————————————————————————————————————————————————————————————————— void C_AO_CLA_l::Moving () { // Initial population setup if (!revision) { for (int i = 0; i < popSize; i++) { for (int c = 0; c < coords; c++) { double val = u.RNDfromCI (rangeMin [c], rangeMax [c]); a [i].c [c] = u.SeInDiSp (val, rangeMin [c], rangeMax [c], rangeStep [c]); } } revision = true; return; } currentIter++; // Update students' knowledge UpdateStudentsKnowledge (); } //————————————————————————————————————————————————————————————————————
UpdateStudentsKnowledge()メソッドは、最適化処理中に各生徒(エージェント)の位置を更新します。まず、現在の最適化の進捗状況を計算します。次に、2つの重要な学習係数を計算します。
- TF (Teaching Factor):生徒が教師からどの程度学習するかを示します。
- CF (Confirmatory Factor):生徒が教師たちの平均的な知識をどの程度考慮するかを示します。これらの係数は、生徒の進捗状況とクラスのランクに応じて決まります。
次に、すべての「有効な」教師(結果が有効な教師)の座標について平均値を計算します。この平均的な知識は、一時配列に格納されます。各生徒(エージェント)について、その生徒が所属するクラスを特定し、さらに各座標について新しい生徒の位置を計算します。新しい位置は、現在の座標に「知識源」から得られる変化量を加えることで求められます。生徒は、自分の教師から学習します。具体的には、教師の座標と自分自身の座標との差にTFを掛けた値だけ位置を調整します。十分な反復回数(currentIter > deltaIter)に達しており、かつ生徒が「最良解」を持っている場合、生徒は過去の成功経験からも学習します。この場合、ランダム係数を掛けた値だけ、最良座標の方向へ位置を調整します。
さらに、十分な反復回数に達しており、教師の数が有効である場合、生徒はすべての教師の平均的な知識から学習します。一定の確率(1-gamma)で、CFを掛けた平均座標の方向へ位置を調整します。最後に、各生徒の座標に境界条件(制約)を適用し、値が許容範囲内に収まることを保証します。また、探索時に使用するステップ幅に応じて、値が許容される値に一致するよう調整します。
//———————————————————————————————————————————————————————————————————— void C_AO_CLA_l::UpdateStudentsKnowledge () { // Calculate learning factors for the current iteration double progress = (double)currentIter / (double)MathMax (totalIters, 100); // Calculate the average knowledge of all teachers (CL) ArrayInitialize (CL, 0.0); int validTeachers = 0; for (int k = 0; k < numClasses; k++) { // Make sure the teacher is initialized if (teachers [k].f > -DBL_MAX) { for (int c = 0; c < coords; c++) { CL [c] += teachers [k].c [c]; } validTeachers++; } } if (validTeachers > 0) { for (int c = 0; c < coords; c++) { CL [c] /= validTeachers; } } // Update each student for (int i = 0; i < popSize; i++) { int classIdx = i / studentsPerClass; // Teaching Factor - decreases with progress double TF = MathExp (-0.6 * progress * classRanks [classIdx]); TF = MathMax (0.1, MathMin (1.0, TF)); // Confirmatory Factor double CF = MathExp (-0.5 * progress * classRanks [classIdx]); CF = MathMax (0.1, MathMin (1.0, CF)); // Update the student position for (int c = 0; c < coords; c++) { double newPos = a [i].c [c]; // a) Teacher Learning - learn from the class teacher if (teachers [classIdx].f > -DBL_MAX) { newPos += TF * (teachers [classIdx].c [c] - a [i].c [c]); } // b) Personal Learning - learn from your best solution if (currentIter > deltaIter && a [i].fB > -DBL_MAX) { double PF = u.RNDprobab (); newPos += PF * (a [i].cB [c] - a [i].c [c]); } // c) Confirmatory Learning - learn from the average of all teachers if (currentIter > deltaIter && validTeachers > 0) { double rnd = u.RNDprobab (); if (rnd >= gamma) // Participate with probability (1-gamma) { newPos += CF * (CL [c] - a [i].c [c]); } } // Apply borders a [i].c [c] = u.SeInDiSp (newPos, rangeMin [c], rangeMax [c], rangeStep [c]); } } } //————————————————————————————————————————————————————————————————————
C_AO_CLA_lクラスのRevision()メソッドは、各エージェントの最良解に関する情報を更新するとともに、全体の最良解とそれに対応するパラメータを更新するために使用されます。
各エージェントについて、現在の目的関数値(a[i].f)が、記録されている最良値(a[i].fB)より改善されているかを確認します。改善されている場合は、その最良値を保存し、対応する座標をコピーします。すべてのエージェントの確認が完了した後、いずれかのエージェントが現在の全体の最良値(fB)よりも優れた関数値を得ていた場合、全体のパラメータを更新します。fBには全体の最良の関数値を、cBにはこの最良解の座標を設定します。
次に、UpdateTeachersAndCosts()メソッドを呼び出し、最良の教師に関する情報を更新します。最後にUpdateClassRanks()を呼び出してクラスのランクを再計算します。このランクは、その後の反復において、どの解を優先的に選択するかに影響します。
//———————————————————————————————————————————————————————————————————— void C_AO_CLA_l::Revision () { for (int i = 0; i < popSize; i++) { // Update personal best positions if (a [i].f > a [i].fB) { a [i].fB = a [i].f; ArrayCopy (a [i].cB, a [i].c); } // Update the global best one if (a [i].f > fB) { fB = a [i].f; ArrayCopy (cB, a [i].c); } } // Update teachers UpdateTeachersAndCosts (); // Update class ranks UpdateClassRanks (); } //————————————————————————————————————————————————————————————————————
UpdateTeachersAndCosts()メソッドは、各クラスの教師に関する情報を更新し、クラス全体の「コスト」を計算するために使用されます。メソッドでは、システムに定義されているすべてのクラスを順番に処理します。各クラスについて、そのクラスに所属する生徒(エージェント)の開始インデックスと終了インデックスを決定します。
クラス内で最も優れた生徒を見つけるために、最良の関数値、最良の生徒のインデックス、クラス内の全生徒の関数値の合計、および有効な生徒数を格納する変数を初期化します。続いて、現在のクラスに所属するすべての生徒を順番に処理します。各生徒について、その解が有効かどうかを確認し、有効であれば、生徒の適応度をsumFitnessに加算し、有効な生徒数のカウンタをインクリメントします。また、現在の生徒の適応度が現在の最良値bestFitnessより優れている場合は、bestFitnessを更新し、bestIdxをその生徒のインデックスに更新します。
クラス内の最良の生徒が見つかった後、そのクラスに少なくとも1人の有効な生徒が存在するか(validStudents > 0)を確認します。条件を満たしている場合、最良の生徒の座標を対応するクラスの教師の座標にコピーし、その生徒の関数値を教師の関数値として設定します。
次に、クラス内の全生徒の関数値の平均値avgFitnessを計算します。クラスの合計「コスト」は、最良の生徒の関数値と、係数betaにクラス内の全生徒の関数値の平均値を掛けた値の合計として計算されます。これは、教師の成果とクラス全体の平均的な水準を組み合わせた指標です。
//———————————————————————————————————————————————————————————————————— void C_AO_CLA::UpdateTeachersAndCosts () { for (int k = 0; k < numClasses; k++) { int startIdx = k * studentsPerClass; int endIdx = startIdx + studentsPerClass; double bestFitness = -DBL_MAX; int bestIdx = startIdx; double sumFitness = 0.0; int validStudents = 0; // Find the best student (teacher) in the class for (int i = startIdx; i < endIdx; i++) { if (a[i].f > -DBL_MAX) // Validity check { sumFitness += a[i].f; validStudents++; if (a[i].f > bestFitness) { bestFitness = a[i].f; bestIdx = i; } } } // Update the teacher if (validStudents > 0) { ArrayCopy (teachers[k].c, a[bestIdx].c); teachers[k].f = bestFitness; // Calculate the class total cost double avgFitness = sumFitness / validStudents; classTotalCosts[k] = bestFitness + beta * avgFitness; } } } //————————————————————————————————————————————————————————————————————
UpdateClassRanks()メソッドは、各クラスの全体的な「コスト」に基づいてクラスのランクを決定するために使用されます。このコストは、クラスがどの程度効果的であるかを示します。処理は、すべての有効なクラスの中から最小コストと最大コストを見つけることから始まります。すべてのクラスが同じ値である場合、または有効なクラスが存在しない場合は、すべてのクラスに同じランク1を設定します。
コストに差がある場合は、これらの値を正規化し、各コストを0から1の範囲に変換します。その後、値を反転させます。コストが高いクラスには1に近い低いランクが与えられ、コストが低いクラスにはクラス数に等しい最大ランクが与えられます。
その後、各ランクの値を最小値と最大値の範囲内に制限し、範囲外の値が発生しないようにします。最終的に、このメソッドの結果に基づいて、各クラスにその成績に応じたランクが与えられます。
//———————————————————————————————————————————————————————————————————— void C_AO_CLA_l::UpdateClassRanks () { // Find the min and max costs among valid classes double minCost = DBL_MAX; double maxCost = -DBL_MAX; int validClasses = 0; for (int k = 0; k < numClasses; k++) { if (classTotalCosts [k] > -DBL_MAX) { if (classTotalCosts [k] < minCost) minCost = classTotalCosts [k]; if (classTotalCosts [k] > maxCost) maxCost = classTotalCosts [k]; validClasses++; } } if (validClasses == 0 || maxCost - minCost < 1e-10) { // All classes have the same score for (int k = 0; k < numClasses; k++) classRanks [k] = 1.0; } else { // Ranking: best classes (high cost) get low rank for (int k = 0; k < numClasses; k++) { if (classTotalCosts [k] > -DBL_MAX) { // Normalize from 0 to 1 double normalized = (classTotalCosts [k] - minCost) / (maxCost - minCost); // Inversion: the best get a rank close to 1 classRanks [k] = 1.0 + (1.0 - normalized) * (numClasses - 1.0); // Limitation classRanks [k] = MathMax (1.0, MathMin ((double)numClasses, classRanks [k])); } else { classRanks [k] = numClasses; // Worst rank for uninitialized } } } } //————————————————————————————————————————————————————————————————————
テスト結果
テスト結果によると、CLA_Lアルゴリズムは比較的良好な結果を示しています。CLA_L|Competitive Learning Algorithm|198.0|3.0|0.3|0.8|2.0|
=============================
5 Hilly's; Func runs:10000; result:0.6482993681242128
25 Hilly's; Func runs:10000; result:0.5535249826770444
500 Hilly's; Func runs:10000; result:0.2584959913710746
=============================
5 Forest's; Func runs:10000; result:0.8027208362980616
25 Forest's; Func runs:10000; result:0.49540442971179494
500 Forest's; Func runs:10000; result:0.20048686632188017
=============================
5 Megacity's; Func runs:10000; result:0.6353846153846153
25 Megacity's; Func runs:10000; result:0.2716923076923076
500 Megacity's; Func runs:10000; result:0.10086153846153936
=============================
All score:3.96687 (44.08%)
可視化結果から、アルゴリズムは初期段階では優れた探索能力を示しているものの、局所解に陥ることでその能力が低下し、アルゴリズムの動作後半では停滞が生じていることが分かります。

Hillyテスト関数のCLA_L

Forestテスト関数のCLA_L

Megacityテスト関数のCLA_L
アルゴリズムの動作結果に基づき、参考情報としてCLA_Lのランキング表を以下に示します。
| # | AO | 説明 | Hilly | Hilly ファイナル | Forest | Forest ファイナル | Megacity(離散) | Megacity ファイナル | ファイナル 結果 | % MAX | ||||||
| 10p(5F) | 50p(25F) | 1000p(500F) | 10p(5F) | 50p(25F) | 1000p(500F) | 10p(5F) | 50p(25F) | 1000p(500F) | ||||||||
| 1 | ANS | across neighbourhood search | 0.94948 | 0.84776 | 0.43857 | 2.23581 | 1.00000 | 0.92334 | 0.39988 | 2.32323 | 0.70923 | 0.63477 | 0.23091 | 1.57491 | 6.134 | 68.15 |
| 2 | CLA | コードロックアルゴリズム(joo) | 0.95345 | 0.87107 | 0.37590 | 2.20042 | 0.98942 | 0.91709 | 0.31642 | 2.22294 | 0.79692 | 0.69385 | 0.19303 | 1.68380 | 6.107 | 67.86 |
| 3 | AMOm | 動物移動最適化m | 0.90358 | 0.84317 | 0.46284 | 2.20959 | 0.99001 | 0.92436 | 0.46598 | 2.38034 | 0.56769 | 0.59132 | 0.23773 | 1.39675 | 5.987 | 66.52 |
| 4 | (P+O)ES | (P+O)進化戦略 | 0.92256 | 0.88101 | 0.40021 | 2.20379 | 0.97750 | 0.87490 | 0.31945 | 2.17185 | 0.67385 | 0.62985 | 0.18634 | 1.49003 | 5.866 | 65.17 |
| 5 | CTA | 彗星の尾アルゴリズム(joo) | 0.95346 | 0.86319 | 0.27770 | 2.09435 | 0.99794 | 0.85740 | 0.33949 | 2.19484 | 0.88769 | 0.56431 | 0.10512 | 1.55712 | 5.846 | 64.96 |
| 6 | TETA | 時間進化移動アルゴリズム(joo) | 0.91362 | 0.82349 | 0.31990 | 2.05701 | 0.97096 | 0.89532 | 0.29324 | 2.15952 | 0.73462 | 0.68569 | 0.16021 | 1.58052 | 5.797 | 64.41 |
| 7 | SDSm | 確率的拡散探索M | 0.93066 | 0.85445 | 0.39476 | 2.17988 | 0.99983 | 0.89244 | 0.19619 | 2.08846 | 0.72333 | 0.61100 | 0.10670 | 1.44103 | 5.709 | 63.44 |
| 8 | BOAm | ビリヤード最適化アルゴリズムM | 0.95757 | 0.82599 | 0.25235 | 2.03590 | 1.00000 | 0.90036 | 0.30502 | 2.20538 | 0.73538 | 0.52523 | 0.09563 | 1.35625 | 5.598 | 62.19 |
| 9 | AAm | アーチェリーアルゴリズムM | 0.91744 | 0.70876 | 0.42160 | 2.04780 | 0.92527 | 0.75802 | 0.35328 | 2.03657 | 0.67385 | 0.55200 | 0.23738 | 1.46323 | 5.548 | 61.64 |
| 10 | ESG | 社会集団の進化(joo) | 0.99906 | 0.79654 | 0.35056 | 2.14616 | 1.00000 | 0.82863 | 0.13102 | 1.95965 | 0.82333 | 0.55300 | 0.04725 | 1.42358 | 5.529 | 61.44 |
| 11 | SIA | 等方的焼きなまし(joo) | 0.95784 | 0.84264 | 0.41465 | 2.21513 | 0.98239 | 0.79586 | 0.20507 | 1.98332 | 0.68667 | 0.49300 | 0.09053 | 1.27020 | 5.469 | 60.76 |
| 12 | EOm | 極値最適化M | 0.76166 | 0.77242 | 0.31747 | 1.85155 | 0.99999 | 0.76751 | 0.23527 | 2.00277 | 0.74769 | 0.53969 | 0.14249 | 1.42987 | 5.284 | 58.71 |
| 13 | BBO | 生物地理学に基づく最適化 | 0.94912 | 0.69456 | 0.35031 | 1.99399 | 0.93820 | 0.67365 | 0.25682 | 1.86867 | 0.74615 | 0.48277 | 0.17369 | 1.40261 | 5.265 | 58.50 |
| 14 | ACS | 人工協調探索 | 0.75547 | 0.74744 | 0.30407 | 1.80698 | 1.00000 | 0.88861 | 0.22413 | 2.11274 | 0.69077 | 0.48185 | 0.13322 | 1.30583 | 5.226 | 58.06 |
| 15 | DA | 弁証法的アルゴリズム | 0.86183 | 0.70033 | 0.33724 | 1.89940 | 0.98163 | 0.72772 | 0.28718 | 1.99653 | 0.70308 | 0.45292 | 0.16367 | 1.31967 | 5.216 | 57.95 |
| 16 | BHAm | ブラックホールアルゴリズムM | 0.75236 | 0.76675 | 0.34583 | 1.86493 | 0.93593 | 0.80152 | 0.27177 | 2.00923 | 0.65077 | 0.51646 | 0.15472 | 1.32195 | 5.196 | 57.73 |
| 17 | ASO | 無政府社会最適化 | 0.84872 | 0.74646 | 0.31465 | 1.90983 | 0.96148 | 0.79150 | 0.23803 | 1.99101 | 0.57077 | 0.54062 | 0.16614 | 1.27752 | 5.178 | 57.54 |
| 18 | RFO | ロイヤルフラッシュ最適化(joo) | 0.83361 | 0.73742 | 0.34629 | 1.91733 | 0.89424 | 0.73824 | 0.24098 | 1.87346 | 0.63154 | 0.50292 | 0.16421 | 1.29867 | 5.089 | 56.55 |
| 19 | AOSm | 原子軌道探索M | 0.80232 | 0.70449 | 0.31021 | 1.81702 | 0.85660 | 0.69451 | 0.21996 | 1.77107 | 0.74615 | 0.52862 | 0.14358 | 1.41835 | 5.006 | 55.63 |
| 20 | TSEA | 亀甲進化アルゴリズム(joo) | 0.96798 | 0.64480 | 0.29672 | 1.90949 | 0.99449 | 0.61981 | 0.22708 | 1.84139 | 0.69077 | 0.42646 | 0.13598 | 1.25322 | 5.004 | 55.60 |
| 21 | BSA | バックトラッキング探索アルゴリズム | 0.97309 | 0.54534 | 0.29098 | 1.80941 | 0.99999 | 0.58543 | 0.21747 | 1.80289 | 0.84769 | 0.36953 | 0.12978 | 1.34700 | 4.959 | 55.10 |
| 22 | DE | 差分進化 | 0.95044 | 0.61674 | 0.30308 | 1.87026 | 0.95317 | 0.78896 | 0.16652 | 1.90865 | 0.78667 | 0.36033 | 0.02953 | 1.17653 | 4.955 | 55.06 |
| 23 | SRA | レストラン経営達人アルゴリズム(joo) | 0.96883 | 0.63455 | 0.29217 | 1.89555 | 0.94637 | 0.55506 | 0.19124 | 1.69267 | 0.74923 | 0.44031 | 0.12526 | 1.31480 | 4.903 | 54.48 |
| 24 | CRO | 化学反応の最適化 | 0.94629 | 0.66112 | 0.29853 | 1.90593 | 0.87906 | 0.58422 | 0.21146 | 1.67473 | 0.75846 | 0.42646 | 0.12686 | 1.31178 | 4.892 | 54.36 |
| 25 | BIO | 血液型遺伝最適化(joo) | 0.81568 | 0.65336 | 0.30877 | 1.77781 | 0.89937 | 0.65319 | 0.21760 | 1.77016 | 0.67846 | 0.47631 | 0.13902 | 1.29378 | 4.842 | 53.80 |
| 26 | BSA | 鳥群アルゴリズム | 0.89306 | 0.64900 | 0.26250 | 1.80455 | 0.92420 | 0.71121 | 0.24939 | 1.88479 | 0.69385 | 0.32615 | 0.10012 | 1.12012 | 4.809 | 53.44 |
| 27 | DEA | イルカのエコーロケーションアルゴリズム | 0.75995 | 0.67572 | 0.34171 | 1.77738 | 0.89582 | 0.64223 | 0.23941 | 1.77746 | 0.61538 | 0.44031 | 0.15115 | 1.20684 | 4.762 | 52.91 |
| 28 | HS | ハーモニー検索 | 0.86509 | 0.68782 | 0.32527 | 1.87818 | 0.99999 | 0.68002 | 0.09590 | 1.77592 | 0.62000 | 0.42267 | 0.05458 | 1.09725 | 4.751 | 52.79 |
| 29 | SSG | 苗木の播種と育成 | 0.77839 | 0.64925 | 0.39543 | 1.82308 | 0.85973 | 0.62467 | 0.17429 | 1.65869 | 0.64667 | 0.44133 | 0.10598 | 1.19398 | 4.676 | 51.95 |
| 30 | BCOm | 細菌走化性最適化M | 0.75953 | 0.62268 | 0.31483 | 1.69704 | 0.89378 | 0.61339 | 0.22542 | 1.73259 | 0.65385 | 0.42092 | 0.14435 | 1.21912 | 4.649 | 51.65 |
| 31 | ABO | アフリカ水牛の最適化 | 0.83337 | 0.62247 | 0.29964 | 1.75548 | 0.92170 | 0.58618 | 0.19723 | 1.70511 | 0.61000 | 0.43154 | 0.13225 | 1.17378 | 4.634 | 51.49 |
| 32 | (PO)ES | (PO)進化戦略 | 0.79025 | 0.62647 | 0.42935 | 1.84606 | 0.87616 | 0.60943 | 0.19591 | 1.68151 | 0.59000 | 0.37933 | 0.11322 | 1.08255 | 4.610 | 51.22 |
| 33 | FBA | フラクタルベースのアルゴリズム | 0.79000 | 0.65134 | 0.28965 | 1.73099 | 0.87158 | 0.56823 | 0.18877 | 1.62858 | 0.61077 | 0.46062 | 0.12398 | 1.19537 | 4.555 | 50.61 |
| 34 | TSm | タブーサーチM | 0.87795 | 0.61431 | 0.29104 | 1.78330 | 0.92885 | 0.51844 | 0.19054 | 1.63783 | 0.61077 | 0.38215 | 0.12157 | 1.11449 | 4.536 | 50.40 |
| 35 | BSO | ブレインストーム最適化 | 0.93736 | 0.57616 | 0.29688 | 1.81041 | 0.93131 | 0.55866 | 0.23537 | 1.72534 | 0.55231 | 0.29077 | 0.11914 | 0.96222 | 4.498 | 49.98 |
| 36 | WOAm | 鯨最適化アルゴリズムM | 0.84521 | 0.56298 | 0.26263 | 1.67081 | 0.93100 | 0.52278 | 0.16365 | 1.61743 | 0.66308 | 0.41138 | 0.11357 | 1.18803 | 4.476 | 49.74 |
| 37 | AEFA | 人工電界アルゴリズム | 0.87700 | 0.61753 | 0.25235 | 1.74688 | 0.92729 | 0.72698 | 0.18064 | 1.83490 | 0.66615 | 0.11631 | 0.09508 | 0.87754 | 4.459 | 49.55 |
| 38 | AEO | 人工生態系ベースの最適化アルゴリズム | 0.91380 | 0.46713 | 0.26470 | 1.64563 | 0.90223 | 0.43705 | 0.21400 | 1.55327 | 0.66154 | 0.30800 | 0.28563 | 1.25517 | 4.454 | 49.49 |
| 39 | CAm | ラクダアルゴリズムM | 0.78684 | 0.56042 | 0.35133 | 1.69859 | 0.82772 | 0.56041 | 0.24336 | 1.63149 | 0.64846 | 0.33092 | 0.13418 | 1.11356 | 4.444 | 49.37 |
| 40 | ACOm | 蟻コロニー最適化M | 0.88190 | 0.66127 | 0.30377 | 1.84693 | 0.85873 | 0.58680 | 0.15051 | 1.59604 | 0.59667 | 0.37333 | 0.02472 | 0.99472 | 4.438 | 49.31 |
| 41 | CMAES | 共分散行列適応進化戦略 | 0.76258 | 0.72089 | 0.00000 | 1.48347 | 0.82056 | 0.79616 | 0.00000 | 1.61672 | 0.75846 | 0.49077 | 0.00000 | 1.24923 | 4.349 | 48.33 |
| 42 | BFO-GA | 細菌採食の最適化:Ga | 0.89150 | 0.55111 | 0.31529 | 1.75790 | 0.96982 | 0.39612 | 0.06305 | 1.42899 | 0.72667 | 0.27500 | 0.03525 | 1.03692 | 4.224 | 46.93 |
| 43 | SOA | シンプル最適化アルゴリズム | 0.91520 | 0.46976 | 0.27089 | 1.65585 | 0.89675 | 0.37401 | 0.16984 | 1.44060 | 0.69538 | 0.28031 | 0.10852 | 1.08422 | 4.181 | 46.45 |
| 44 | ABHA | 人工蜂の巣アルゴリズム | 0.84131 | 0.54227 | 0.26304 | 1.64663 | 0.87858 | 0.47779 | 0.17181 | 1.52818 | 0.50923 | 0.33877 | 0.10397 | 0.95197 | 4.127 | 45.85 |
| 45 | ACMO | 大気雲モデルの最適化 | 0.90321 | 0.48546 | 0.30403 | 1.69270 | 0.80268 | 0.37857 | 0.19178 | 1.37303 | 0.62308 | 0.24400 | 0.10795 | 0.97503 | 4.041 | 44.90 |
| CLA_L | 競争学習アルゴリズム | 0.64829 | 0.55352 | 0.25849 | 1.46030 | 0.80272 | 0.49540 | 0.20048 | 1.49860 | 0.63538 | 0.27169 | 0.10086 | 1.00793 | 3.967 | 44.08 | |
| RW | ランダムウォーク | 0.48754 | 0.32159 | 0.25781 | 1.06694 | 0.37554 | 0.21944 | 0.15877 | 0.75375 | 0.27969 | 0.14917 | 0.09847 | 0.52734 | 2.348 | 26.09 | |
まとめ
競争学習アルゴリズム(CLA_L)は、標準的な最適化問題の求解において平均的な性能を示します。アルゴリズムの動作を分析した結果、特徴的な2段階の動的挙動が確認されました。初期の反復では活発な探索段階が見られる一方、最適化プロセスの後半では早期停滞が発生します。
集団をクラスに分割することで、初期段階における探索空間の良好なカバレッジが確保されます。各クラスがそれぞれ異なる領域を探索するため、全体的な探索に寄与します。また、教育モデルによって、アルゴリズムの仕組みが分かりやすく、解釈しやすくなっています。教師、生徒、そして異なる学習方式という概念は自然に理解できます。クラスのランクに応じて変化する学習係数は、理論上、探索と活用のバランスを取る役割を果たします。教師からの学習、個人的な学習、確認学習という3種類の学習を組み合わせることで、局所最適解を回避できる可能性も生まれます。しかし、こうした多様化のメカニズムを備えているにもかかわらず、アルゴリズムは局所最適解に陥りやすい傾向があります。
CLAアルゴリズムは、教育というメタファーを最適化問題に適用する興味深いコンセプトを提示しています。革新的なアプローチと良好な初期性能を備えている一方で、現代のメタヒューリスティクスと競争できる性能を実現するには、大幅な改良が必要です。最大の課題は、最適化プロセス全体を通じて探索と活用のバランスを維持することにあります。

図2:テストによるアルゴリズムの色分け

図3:アルゴリズムテスト結果のヒストグラム(0から100のスケール、高いほど良い)100は理論上の最大値であり、アーカイブには評価表を計算するためのスクリプトがあります。
CLA_Lの長所と短所
長所
- 高速
短所
- 多数の外部パラメータ
- 局所最適解に陥りやすい。
この記事には、最新版のアルゴリズムコードを含むアーカイブが添付されています。記事の著者は、正統的なアルゴリズム定義の説明の絶対的な正確さについて責任を負いません。探索性能を向上させるために、それらの多くに変更が加えられています。記事に示された結論と判断は、実験結果に基づいています。
記事で使用されているプログラム
| # | 名前 | 種類 | 説明 |
|---|---|---|---|
| 1 | #C_AO.mqh | インクルード | 集団最適化アルゴリズムの親クラス |
| 2 | #C_AO_enum.mqh | インクルード | 集団最適化アルゴリズムの列挙 |
| 3 | TestFunctions.mqh | インクルード | テスト関数のライブラリ |
| 4 | TestStandFunctions.mqh | インクルード | テストスタンド関数ライブラリ |
| 5 | Utilities.mqh | インクルード | 補助関数のライブラリ |
| 6 | CalculationTestResults.mqh | インクルード | 比較表の結果を計算するスクリプト |
| 7 | Testing AOs.mq5 | スクリプト | すべての集団最適化アルゴリズムの統一テストスタンド |
| 8 | Simple use of population optimization algorithms.mq5 | スクリプト | 可視化せずに集団最適化アルゴリズムを使用する簡単な例 |
| 9 | Test_AO_CLA_L.mq5 | スクリプト | CLA_Lテストスタンド |
MetaQuotes Ltdによってロシア語から翻訳されました。
元の記事: https://www.mql5.com/ru/articles/18857
警告: これらの資料についてのすべての権利はMetaQuotes Ltd.が保有しています。これらの資料の全部または一部の複製や再プリントは禁じられています。
この記事はサイトのユーザーによって執筆されたものであり、著者の個人的な見解を反映しています。MetaQuotes Ltdは、提示された情報の正確性や、記載されているソリューション、戦略、または推奨事項の使用によって生じたいかなる結果についても責任を負いません。
初級から中級まで:MetaTrader 5のサンドボックスにおけるファイル操作
取引におけるニューラルネットワーク:高精度分類のための効果的な特徴量抽出(Mantis)
最強のML搭載取引プラットフォームが生まれるまで:アーカイブ、フォーラム、リリースからたどるMQLとMetaTraderの進化
市場シミュレーション:ポジション表示(III)
- 無料取引アプリ
- 8千を超えるシグナルをコピー
- 金融ニュースで金融マーケットを探索