Random Forest (RF) mit dem Einsatz von Bagging ist eine der leistungsfähigsten maschinellen Lernmethoden, die dem Gradienten-Boosting etwas unterlegen ist. Dieser Artikel versucht, ein selbstlernendes Handelssystem zu entwickeln, das Entscheidungen basierend auf den Erfahrungen aus der Interaktion mit dem Markt trifft.
Man kann sagen, dass ein Zufallswald ein Sonderfall des Baggings ist,
bei dem Entscheidungsbäume als Basisfamilie verwendet werden.
Gleichzeitig wird, anders als bei der konventionellen
Entscheidungsbaum-Konstruktion, auf das Pruning (Beschneiden)
verzichtet. Die Methode ist dafür gedacht, aus großen Datenmengen so
schnell wie möglich eine Stichprobe zu konstruieren. Jeder Baum ist auf
eine bestimmte Art und Weise aufgebaut. Ein Merkmal (Attribut) zum
Aufbau eines Baumknotens wird nicht aus der Gesamtzahl der Merkmale
ausgewählt, sondern aus deren zufälliger Untermenge. Beim Aufbau eines
Regressionsmodells ist die Anzahl der Merkmale n/3. Im Falle einer
Klassifizierung ist es √n.
All dies sind empirische Empfehlungen und werden Dekorrelation genannt:
Unterschiedliche Merkmale fallen in verschiedene Bäume, und die Bäume
werden an verschiedenen Proben trainiert.
199853
Neuer Artikel Random Decision Forest und Reinforcement-Learning :
Random Forest (RF) mit dem Einsatz von Bagging ist eine der leistungsfähigsten maschinellen Lernmethoden, die dem Gradienten-Boosting etwas unterlegen ist. Dieser Artikel versucht, ein selbstlernendes Handelssystem zu entwickeln, das Entscheidungen basierend auf den Erfahrungen aus der Interaktion mit dem Markt trifft.
Man kann sagen, dass ein Zufallswald ein Sonderfall des Baggings ist, bei dem Entscheidungsbäume als Basisfamilie verwendet werden. Gleichzeitig wird, anders als bei der konventionellen Entscheidungsbaum-Konstruktion, auf das Pruning (Beschneiden) verzichtet. Die Methode ist dafür gedacht, aus großen Datenmengen so schnell wie möglich eine Stichprobe zu konstruieren. Jeder Baum ist auf eine bestimmte Art und Weise aufgebaut. Ein Merkmal (Attribut) zum Aufbau eines Baumknotens wird nicht aus der Gesamtzahl der Merkmale ausgewählt, sondern aus deren zufälliger Untermenge. Beim Aufbau eines Regressionsmodells ist die Anzahl der Merkmale n/3. Im Falle einer Klassifizierung ist es √n. All dies sind empirische Empfehlungen und werden Dekorrelation genannt: Unterschiedliche Merkmale fallen in verschiedene Bäume, und die Bäume werden an verschiedenen Proben trainiert.
Abb. 1. Schema des Random ForestAutor: Maxim Dmitrievsky