Обсуждение статьи "Машинное обучение и Data Science (Часть 05): Деревья решений на примере погодных условий для игры в теннис"

 

Опубликована статья Машинное обучение и Data Science (Часть 05): Деревья решений на примере погодных условий для игры в теннис:

Деревья решений классифицируют данные, имитируя то, каким образом размышляют люди. В этой статье посмотрим, как строить деревья и использовать их для классификации и прогнозирования данных. Основная цель алгоритма деревьев решений состоит в том, чтобы разделить выборку на данные с "примесями" и на "чистые" или близкие к узлам.

Деревья решений используют набор алгоритмов, чтобы принимать решения о разделении узла на два или более узлов подмножества. Создание подузлов увеличивает однородность полученных подузлов. Другими словами, можно сказать, что чистота узла увеличивается относительно целевой переменной. Алгоритм дерева решений разбивает узлы по всем доступным переменным, а затем выбирает разбиение, которое приводит к наиболее однородным подузлам.

Пример дерева решений

Выбор алгоритма основан на типе целевых переменных.

Ниже приведены алгоритмы, используемые в дереве решений:

  1. ID3 — расширение D3
  2. C4.5 — преемник ID3
  3. CART — дерево классификации и регрессии
  4. CHAID — автоматическое обнаружение взаимодействия по хи-квадрат (ЧЭЙД), выполняет многоуровневое разбиение при вычислении деревьев классификации
  5. MARS — сплайны многомерной адаптивной регрессии

В этой статье мы будем создавать дерево решений на основе алгоритма ID3, а другие алгоритмы мы обсудим и применим в следующих статьях этой серии.

Автор: Omega J Msigwa

 

Здравствуйте, господин Омега,

Большое спасибо за решение проблемы ID3. Оно очень полезно для меня. Однако я предоставил и приложил лист excel по этому поводу, который, я думаю, понятен для вашего объяснения.

Еще раз большое спасибо,

Ф.Махмудян

Файлы:
 
Fatemeh Haji Mahmoudian #:

Здравствуйте, мистер Омега,

Большое спасибо за решение проблемы ID3. Оно очень полезно для меня. Однако я предоставил и приложил лист excel по этому поводу, который, я думаю, понятен для вашего объяснения.

Еще раз большое спасибо,

Ф.Махмудян

Большое спасибо, я все еще пытаюсь понять, как позволить скрипту самому рисовать дерево

 
Omega J Msigwa #:

many thanks to it, I'm still trying to figure out how to let the script draw the tree itself

Это было бы здорово!

Большое спасибо

 

А кстати вот да, чего все упёрлись в MO, АИ и DeepLearning.. Есть же хорошо забытое старое, про которое напомнил топик-стартер. Есть же экспертные системы и всякие взвешенные оценки. Конечно методам лет по 30-50, не модно, но они придерживаются физичной модели и причинно-следственных связей и их результаты интерпретируемы. НАДО КОПНУТЬ ТУДА

это единственная штука которая потенциально может быть фильтром уже рассчитанных сигналов. Прочие методы в этом направлении обо@$лись

[Удален]  
Maxim Kuznetsov #:

А кстати вот да, чего все упёрлись в MO, АИ и DeepLearning.. Есть же хорошо забытое старое, про которое напомнил топик-стартер. Есть же экспертные системы и всякие взвешенные оценки. Конечно методам лет по 30-50, не модно, но они придерживаются физичной модели и причинно-следственных связей и их результаты интерпретируемы. НАДО КОПНУТЬ ТУДА

это единственная штука которая потенциально может быть фильтром уже рассчитанных сигналов. Прочие методы в этом направлении обо@$лись

Вообще-то это базовый алгоритм, входящий в состав более сложных, основанных на деревьях ) и самый переобучающийся.