Есть целый отдельный класс алгоритмов многокритериальной оптимизации. Но, при должном понимании, многокритериальная сводится к дополнительным граничным условиям и отдельным оценкам.
Функциональное пространство так же требует оценки. Всё всегда требует оценки.
Упомянутые мною особенности работают не по очереди, а одновременно, поэтому не знаю, какие вы там границы собрались строить в функциональных пространствах.
Было бы полезнее, если бы все участники ветки были знакомы с основами современного МО. Как неплохой вариант, по учебнику от ШАД.
Упомянутые мною особенности работают не по очереди, а одновременно, поэтому не знаю, какие вы там границы собрались строить в функциональных пространствах.
Да, речь именно про одновременную работу отдельных компонентов в многофункциональных пространствах. Оцениваться могут как компоненты по отдельности в многофункциональном пространстве так все вместе - метаоценками, или по другому - интегральными оценками. Одно другому не мешает. Любые этапы МО требуют оценок, для этого существуют множество специальных метрик, максимизация которых есть суть оптимизации.
1) В МО фитнес-функция используется для обучения модели (подбора параметров) посредством оптимизации. Для оценки полученной модели используется метрика (метрики). Часто метрика НЕ СОВПАДАЕТ с фитнес-функцией. С математической точки зрения, это означает, что в МО решается задача МНОГОКРИТЕРИАЛЬНОЙ оптимизации, а не обычная однокритериальная.
2) Ещё существенное отличие от обычной оптимизации - частое отсутствие фиксированного набора праметров оптимизации. Даже для обычного дерева это уже так. С математической тчки зрения, это приводит к задаче оптимизации в ФУНКЦИОНАЛЬНОМ ПРОСТРАНСТВЕ, вместо обычной в числовом пространстве.
Оба этих пунктов делают задачи МО несводимыми к обычной оптимизации.
1)
В чем противоречие ?
подбора параметров == поиск параметров в алгоритме оптимизации
оценка метрики модели == ФФ с оценкой акураси например
Что вам тут не сходиться?
2)
Можете по подробней в чем вы видите проблему? Я например не вижу
Да, речь именно про одновременную работу отдельных компонентов в многофункциональных пространствах. Оцениваться могут как компоненты по отдельности в многофункциональном пространстве так все вместе - метаоценками, или по другому - интегральными оценками. Одно другому не мешает. Любые этапы МО требуют оценок, для этого существуют множество специальных метрик, максимизация которых есть суть оптимизации.
Допустим, сделано 100 шагов - получили 100 наборов входных. Если сформировать средний набор по принципу "каждый входной равен среднему из соответствующих входных 100 наборов", то вряд ли этот набор будет проходить хорошо весь исходный интервал.
Aleksey Nikolayev #: Приведите ссылки, если не сложно (статьи, книги).
Я держал в архиве несколько сотен книг по нейронным сетям, МО, оптимизации, математике. Давал ссылку на архив. Архив был доступен всем желающим в облаке несколько лет, на настоящий момент я не поддерживаю этот архив, облако с архивом теперь не существует.
У Карпенко А.П. много книг на эти темы, хорошие книги есть у Саймона Д.
A case study on using neural networks to perform technical.pdf Christian L. Dunis Modelling and Trading EURUSD.pdf ED PONSI Forex Patterns and Proababilities.pdf Gorban A.N. Neuroinformatics. What are us, where are we going, how to measure our way.pdf Haykin S. Kalman filtering and neural networks.djvu Jonsson F. Markus. Поиск оптимального пути для транспортных средств на оцифрованых картах реальной местности. Часть 1.doc Jonsson F. Markus. Поиск оптимального пути для транспортных средств на оцифрованых картах реальной местности. Часть 2.doc Kondratenko V.V. Using Recurrent Neural Networks To Forecasting of Forex.pdf Krose В. An introduction to Neural networks. 1996.djvu Long, Parks Neural Network Modeling.djvu Neural_Network_Trend_Predictor_Manual.pdf Simon D. Training radial basis neural networks with the extended Kalman filter ToshibaNeuronChip.pdf Барскии А.Б. Нейронные сети распознавание, управление, принятие решений. 2004.pdf Беркинблит М.Б. Нейронные сети 1993.djvu Бэстенс Д. Нейроннные сети и финансовые рынки. Принятие решений в торговых операциях.djvu Вапник В.Н. Восстановление зависимостей по эмпирическим данным. 1997.djvu Вежневец А. Нестандартные нейросетевые архитектуры.pdf Вороновский Г.К. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности.pdf Вороновский Г.К. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности.pdf Галушкин А.И. Теория нейронных сетей. Кн. 1 2000.djvu Гольдштейн Б.С. Интеллектуальные сети. 2000.djvu Горбань А.Н. Обобщенная аппроксимационная теорема и вычисительные возможности нейронных сетей.pdf Горбунова Е.О. Алгоритмическая универсальность кинетической машины Кирдина.pdf Горбунова Е.О. Методы нейроинформатики. Финитность и детерминированность простых программ для кинетической машины Кирдина.pdf Джейн Анил К. Введение в искусственные нейроные сети.pdf Доррер М.Г. Интуитивное предсказание нейросетями взаимоотношений в группе.pdf Доррер М.Г. Методы нейроинформатики. Аппроксимация многомерных функций полутораслойным предиктором с произвольными преобразователями.pdf Дубрович В.И. Субботин С.А. Алгоритм ускоренного обучения персептронов.pdf Ежов А. Шумский С. Нейрокомпьютинг и его применения в экономике и бизнесе.djvu Жуков Л.А. Использование нейросетевых технологий для проведения учебно-исследовательских работ.pdf Заенцев И.В. Нейронные сети основные модели. 1999.pdf Захаров В.Н. Хорошевский В.Ф. Искусственный интеллект. Том 3. Программные и аппаратные средства 1990.djvu Каллан Р. Основные концепции нейронных сетей.djvu Кгур П.Г. Нейронные сети и нейрокомпьютеры.pdf Комашинский В.И. Нейронные сети и их применение в системах управления и связи 2003.pdf Комитет NN.pdf Короткий С. Нейронные сети Хопфилда и Хэмминга.pdf Короткий С. Нейронные сети. Алгоритм обратного распространения.pdf Короткий С. Нейронные сети. Обучение без учителя.pdf Короткий С. Нейронные сети. Основные положения.pdf Крисилов В.А. Кондартюк А.В. Преобразование входных данных нейросети с целью улучшения различимости.pdf Крисилов В.А. Олешко Д.Н. Методы ускорения обучения нейронных сетей.doc Крисилов В.А. Чумичкин К.В. Ускорение обучения нейронных сетей за счет адаптивного упрощения обучающей выборки.pdf Крислов В.А. Представление исходных данных в задачах нейросетевого прогнозирования.pdf Круглов В.В. Нечеткая логика и искуственные нейроные сети.djvu Круглов, Борисов - Искусственные нейронные сети. Теория и практика, 2002.djvu Круглов, Борисов - Искусственные нейронные сети. Теория и практика, 2002.txt Лю Б. Теория и практика неопределенного программирования 2005.djvu Мак-Каллок У., Питтс В. Логическое исчисление идей, относящихся к нервной активности.pdf Маркел Дж.Д. Линейное предсказание речи. 1980.djvu Миркес Е.М. Нейрокомпьютер. Проект стандарта. 1998.pdf Модифицированный генетический алгоритм для задач оптимизации в управлении.pdf Набхан Т.Н. Зомая А. О проблемах создания нейросетевых структур для оптимизации функционирования.pdf Напалков А. В., Прагина Л. Л. - Мозг человека и искусственный интеллект.docx Олешко Д.Н. Повышение качества и скорости обучения нейронных сетей в задаче прогнозирования поведения временных рядов.doc Олешко Д.Н. Повышение качества и скорости обучения нейроных сетей.doc Островский С. Нейронные сети для обработки информации 2000.djvu Павлидис Т. Алгоритмы машинной графики и обработки изображений.djvu Пенроуз Р. Новый ум короля. О компьютерах, мышлении и законах физики. 2003.djvu Питенко А.А. Использование нейросетевых технологий при решении аналитических задач в ГИС.pdf Рутковская Д. Нейронные сети генетические алгоритмы и нечеткие системы.djvu Сенашова М.Ю. Погрешности нейронных сетей. Вычисление погрешностей весов синапсов. 1998.pdf Субботин С.А. Нейрокибернетика в СССР-СНГ - Аналитических обзор изобретений и патентов.pdf Тарасенко Р.А. Выбор размера описания ситуации при формировании обучаюей выборки для нейронных сетей в задачах прогнозирования временных рядов.doc Тарасенко Р.А. Предварительая оценка качества обучающей выборки для нейроных сетей в адачах прогнозирования временных рядов.doc Терехов С.А. Технологические аспекты обучения нейросетевых машин. 2006.pdf ТЭО-ИНВЕСТ.gif Тюменцев Ю.В. Интеллектуальные автономные системы - вызов информационным технологиям.pdf Уоссермен Ф. Нейрокомпьютерная техника.doc Уоссермен Ф. Нейрокомпьютерная техника. Теория и практика.doc Хайкин С. Нейронные сети - полный курс.djvu Царегородцев В.Г. Производство полуэмпирических знаний из таблиц данных с помощью обучаемых искусственных нейронных сетей.pdf
Когда ищется сотня наборов - да. Если найти сотню через ФФ1, то плохой средний набор не будет говорить, что хорошего набора нет. Т.к. через ФФ2 вполне может найтись хороший средний.
Есть целый отдельный класс алгоритмов многокритериальной оптимизации. Но, при должном понимании, многокритериальная сводится к дополнительным граничным условиям и отдельным оценкам.
Функциональное пространство так же требует оценки. Всё всегда требует оценки.
Упомянутые мною особенности работают не по очереди, а одновременно, поэтому не знаю, какие вы там границы собрались строить в функциональных пространствах.
Было бы полезнее, если бы все участники ветки были знакомы с основами современного МО. Как неплохой вариант, по учебнику от ШАД.
Упомянутые мною особенности работают не по очереди, а одновременно, поэтому не знаю, какие вы там границы собрались строить в функциональных пространствах.
Да, речь именно про одновременную работу отдельных компонентов в многофункциональных пространствах. Оцениваться могут как компоненты по отдельности в многофункциональном пространстве так все вместе - метаоценками, или по другому - интегральными оценками. Одно другому не мешает. Любые этапы МО требуют оценок, для этого существуют множество специальных метрик, максимизация которых есть суть оптимизации.
1) В МО фитнес-функция используется для обучения модели (подбора параметров) посредством оптимизации. Для оценки полученной модели используется метрика (метрики). Часто метрика НЕ СОВПАДАЕТ с фитнес-функцией. С математической точки зрения, это означает, что в МО решается задача МНОГОКРИТЕРИАЛЬНОЙ оптимизации, а не обычная однокритериальная.
2) Ещё существенное отличие от обычной оптимизации - частое отсутствие фиксированного набора праметров оптимизации. Даже для обычного дерева это уже так. С математической тчки зрения, это приводит к задаче оптимизации в ФУНКЦИОНАЛЬНОМ ПРОСТРАНСТВЕ, вместо обычной в числовом пространстве.
Оба этих пунктов делают задачи МО несводимыми к обычной оптимизации.
1)
В чем противоречие ?
подбора параметров == поиск параметров в алгоритме оптимизации
оценка метрики модели == ФФ с оценкой акураси например
Что вам тут не сходиться?
2)
Можете по подробней в чем вы видите проблему? Я например не вижу
Спасибо за подробное объяснение. Все же был некий контекст поднятия темы ФФ. Вот он.
Видел ваш вопрос, но не могу сказать ничего вразумительного по его поводу.
И переводчик с языка Максима из меня не очень)
Да, речь именно про одновременную работу отдельных компонентов в многофункциональных пространствах. Оцениваться могут как компоненты по отдельности в многофункциональном пространстве так все вместе - метаоценками, или по другому - интегральными оценками. Одно другому не мешает. Любые этапы МО требуют оценок, для этого существуют множество специальных метрик, максимизация которых есть суть оптимизации.
Видел ваш вопрос, но не могу сказать ничего вразумительного по его поводу.
И переводчик с языка Максима из меня не очень)
Дело не в переводе.
Форум по трейдингу, автоматическим торговым системам и тестированию торговых стратегий
Машинное обучение в трейдинге: теория, модели, практика и алготорговля
fxsaber, 2024.01.10 19:43
Допустим, сделано 100 шагов - получили 100 наборов входных. Если сформировать средний набор по принципу "каждый входной равен среднему из соответствующих входных 100 наборов", то вряд ли этот набор будет проходить хорошо весь исходный интервал.
Форум по трейдингу, автоматическим торговым системам и тестированию торговых стратегий
Машинное обучение в трейдинге: теория, модели, практика и алготорговля
Maxim Dmitrievsky, 2024.01.10 19:46
Если не будет, то нет хороших наборов вообще, по логике. В плане уверенности в завтрашнем дне.Понятно, что сотня наборов зависят от ФФ.
Приведите ссылки, если не сложно (статьи, книги).
Я держал в архиве несколько сотен книг по нейронным сетям, МО, оптимизации, математике. Давал ссылку на архив. Архив был доступен всем желающим в облаке несколько лет, на настоящий момент я не поддерживаю этот архив, облако с архивом теперь не существует.
У Карпенко А.П. много книг на эти темы, хорошие книги есть у Саймона Д.
Дело не в переводе.
Понятно, что сотня наборов зависят от ФФ.
Приведите ссылки, если не сложно (статьи, книги).
Форум по трейдингу, автоматическим торговым системам и тестированию торговых стратегий
Полезная литература.
Andrey Dik, 2010.07.24 22:26
Нейронные сети, генетические алгоритмы
A case study on using neural networks to perform technical.pdf
Christian L. Dunis Modelling and Trading EURUSD.pdf
ED PONSI Forex Patterns and Proababilities.pdf
Gorban A.N. Neuroinformatics. What are us, where are we going, how to measure our way.pdf
Haykin S. Kalman filtering and neural networks.djvu
Jonsson F. Markus. Поиск оптимального пути для транспортных средств на оцифрованых картах реальной местности. Часть 1.doc
Jonsson F. Markus. Поиск оптимального пути для транспортных средств на оцифрованых картах реальной местности. Часть 2.doc
Kondratenko V.V. Using Recurrent Neural Networks To Forecasting of Forex.pdf
Krose В. An introduction to Neural networks. 1996.djvu
Long, Parks Neural Network Modeling.djvu
Neural_Network_Trend_Predictor_Manual.pdf
Simon D. Training radial basis neural networks with the extended Kalman filter
ToshibaNeuronChip.pdf
Барскии А.Б. Нейронные сети распознавание, управление, принятие решений. 2004.pdf
Беркинблит М.Б. Нейронные сети 1993.djvu
Бэстенс Д. Нейроннные сети и финансовые рынки. Принятие решений в торговых операциях.djvu
Вапник В.Н. Восстановление зависимостей по эмпирическим данным. 1997.djvu
Вежневец А. Нестандартные нейросетевые архитектуры.pdf
Вороновский Г.К. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности.pdf
Вороновский Г.К. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности.pdf
Галушкин А.И. Теория нейронных сетей. Кн. 1 2000.djvu
Гольдштейн Б.С. Интеллектуальные сети. 2000.djvu
Горбань А.Н. Обобщенная аппроксимационная теорема и вычисительные возможности нейронных сетей.pdf
Горбунова Е.О. Алгоритмическая универсальность кинетической машины Кирдина.pdf
Горбунова Е.О. Методы нейроинформатики. Финитность и детерминированность простых программ для кинетической машины Кирдина.pdf
Джейн Анил К. Введение в искусственные нейроные сети.pdf
Доррер М.Г. Интуитивное предсказание нейросетями взаимоотношений в группе.pdf
Доррер М.Г. Методы нейроинформатики. Аппроксимация многомерных функций полутораслойным предиктором с произвольными преобразователями.pdf
Дубрович В.И. Субботин С.А. Алгоритм ускоренного обучения персептронов.pdf
Ежов А. Шумский С. Нейрокомпьютинг и его применения в экономике и бизнесе.djvu
Жуков Л.А. Использование нейросетевых технологий для проведения учебно-исследовательских работ.pdf
Заенцев И.В. Нейронные сети основные модели. 1999.pdf
Захаров В.Н. Хорошевский В.Ф. Искусственный интеллект. Том 3. Программные и аппаратные средства 1990.djvu
Каллан Р. Основные концепции нейронных сетей.djvu
Кгур П.Г. Нейронные сети и нейрокомпьютеры.pdf
Комашинский В.И. Нейронные сети и их применение в системах управления и связи 2003.pdf
Комитет NN.pdf
Короткий С. Нейронные сети Хопфилда и Хэмминга.pdf
Короткий С. Нейронные сети. Алгоритм обратного распространения.pdf
Короткий С. Нейронные сети. Обучение без учителя.pdf
Короткий С. Нейронные сети. Основные положения.pdf
Крисилов В.А. Кондартюк А.В. Преобразование входных данных нейросети с целью улучшения различимости.pdf
Крисилов В.А. Олешко Д.Н. Методы ускорения обучения нейронных сетей.doc
Крисилов В.А. Чумичкин К.В. Ускорение обучения нейронных сетей за счет адаптивного упрощения обучающей выборки.pdf
Крислов В.А. Представление исходных данных в задачах нейросетевого прогнозирования.pdf
Круглов В.В. Нечеткая логика и искуственные нейроные сети.djvu
Круглов, Борисов - Искусственные нейронные сети. Теория и практика, 2002.djvu
Круглов, Борисов - Искусственные нейронные сети. Теория и практика, 2002.txt
Лю Б. Теория и практика неопределенного программирования 2005.djvu
Мак-Каллок У., Питтс В. Логическое исчисление идей, относящихся к нервной активности.pdf
Маркел Дж.Д. Линейное предсказание речи. 1980.djvu
Миркес Е.М. Нейрокомпьютер. Проект стандарта. 1998.pdf
Модифицированный генетический алгоритм для задач оптимизации в управлении.pdf
Набхан Т.Н. Зомая А. О проблемах создания нейросетевых структур для оптимизации функционирования.pdf
Напалков А. В., Прагина Л. Л. - Мозг человека и искусственный интеллект.docx
Олешко Д.Н. Повышение качества и скорости обучения нейронных сетей в задаче прогнозирования поведения временных рядов.doc
Олешко Д.Н. Повышение качества и скорости обучения нейроных сетей.doc
Островский С. Нейронные сети для обработки информации 2000.djvu
Павлидис Т. Алгоритмы машинной графики и обработки изображений.djvu
Пенроуз Р. Новый ум короля. О компьютерах, мышлении и законах физики. 2003.djvu
Питенко А.А. Использование нейросетевых технологий при решении аналитических задач в ГИС.pdf
Рутковская Д. Нейронные сети генетические алгоритмы и нечеткие системы.djvu
Сенашова М.Ю. Погрешности нейронных сетей. Вычисление погрешностей весов синапсов. 1998.pdf
Субботин С.А. Нейрокибернетика в СССР-СНГ - Аналитических обзор изобретений и патентов.pdf
Тарасенко Р.А. Выбор размера описания ситуации при формировании обучаюей выборки для нейронных сетей в задачах прогнозирования временных рядов.doc
Тарасенко Р.А. Предварительая оценка качества обучающей выборки для нейроных сетей в адачах прогнозирования временных рядов.doc
Терехов С.А. Технологические аспекты обучения нейросетевых машин. 2006.pdf
ТЭО-ИНВЕСТ.gif
Тюменцев Ю.В. Интеллектуальные автономные системы - вызов информационным технологиям.pdf
Уоссермен Ф. Нейрокомпьютерная техника.doc
Уоссермен Ф. Нейрокомпьютерная техника. Теория и практика.doc
Хайкин С. Нейронные сети - полный курс.djvu
Царегородцев В.Г. Производство полуэмпирических знаний из таблиц данных с помощью обучаемых искусственных нейронных сетей.pdf
ФФ же одна и та же?
Когда ищется сотня наборов - да. Если найти сотню через ФФ1, то плохой средний набор не будет говорить, что хорошего набора нет. Т.к. через ФФ2 вполне может найтись хороший средний.