Maxim Dmitrievsky #: На малых ТФ переполняться память. Забивается 16 озу и файл подкачки (своп на маке) 30гиг. Ну там матрица корреляционная 50к на 50к размером, например.
Пандас и нампай вылетает, не рассчитан на большие данные. Через даск попробую. Либо процеживать историю.
Короче что МО не тянет на обычном железе, что такой подход.
Квантизацию делаете? Основная цель квантизации - уменьшение размеров данных. 4 байтовый float в 1 байтовый uchar или char. 16 гг матрица станет 4гг.
Ну и все расчеты в ОЗУ идут - надо добавить. Сейчас память недорогая.
Forester #: Квантизацию делаете? Основная цель квантизации - уменьшение размеров данных. 4 байтовый float в 1 байтовый uchar или char. 16 гг матрица станет 4гг.
Ну и все расчеты в ОЗУ идут - надо добавить. Сейчас память недорогая.
Не знаю как потом считать корреляцию
в макбук память не так просто добавить ) Все равно это крайне неэффективно для временного ряда, надо переделать как-то
Тем более что спущусь еще на ТФ ниже и нужно будет еще в 5 раз больше ресурсов
в макбук память не так просто добавить ) Все равно это крайне неэффективно для временного ряда, надо переделать как-то
Тем более что спущусь еще на ТФ ниже и нужно будет еще в 5 раз больше ресурсов
В алглибе есть ф-я расчета корелляции double. Думаю можно просто поменять все переменные на char/uchar и все будет работать.Там еще с десяток используемых функций тоже надо переделать. И от CMatrixDouble перейти к динамическим массивам или как то по другому.
Pearson product-moment correlation matrix | //| INPUT PARAMETERS: | //| X - array[N,M], sample matrix: | //| * J-th column corresponds to J-th variable | //| * I-th row corresponds to I-th observation | //| N - N>=0, number of observations: | //| * if given, only leading N rows of X are used | //| * if not given, automatically determined from input | //| size | //| M - M>0, number of variables: | //| * if given, only leading M columns of X are used | //| * if not given, automatically determined from input | //| size | //| OUTPUT PARAMETERS: | //| C - array[M,M], correlation matrix (zero if N=0 or N=1) | //+------------------------------------------------------------------+ static bool CBaseStat::PearsonCorrM(const CMatrixDouble &cx,const int n, const int m,CMatrixDouble &c)
И если у вас самоделка - то и квантизацию надо будет делать, если нет готового пакета, который ее делает.
Maxim Dmitrievsky #: На малых ТФ переполняться память. Забивается 16 озу и файл подкачки (своп на маке) 30гиг. Ну там матрица корреляционная 50к на 50к размером, например.
Пандас и нампай вылетает, не рассчитан на большие данные. Через даск попробую. Либо процеживать историю.
Короче что МО не тянет на обычном железе, что такой подход.
зачем там кореляционная матрица вообще нужна можешь обяснить?
есть паттерн , есть масив истории с которой можно паттерн сравнить, в чем проблема вообще?
Для авторизации и пользования сайтом MQL5.com необходимо разрешить использование файлов Сookie.
Пожалуйста, включите в вашем браузере данную настройку, иначе вы не сможете авторизоваться.
Вы вошли в аккаунт. Двухфакторная аутентификация отключена. Настройте её заново и отсканируйте новый QR-код или продолжите с отключённой двухфакторной аутентификацией.
Это как?
https://www.mql5.com/ru/docs/constants/chartconstants/enum_timeframes
Идентификатор
Описание
PERIOD_CURRENT
Текущий период
PERIOD_M1
1 минута
PERIOD_M2
2 минуты
PERIOD_M3
3 минуты
PERIOD_M4
4 минуты
PERIOD_M5
5 минут
PERIOD_M6
6 минут
PERIOD_M10
10 минут
PERIOD_M12
12 минут
PERIOD_M15
15 минут
PERIOD_M20
20 минут
PERIOD_M30
30 минут
PERIOD_H1
1 час
PERIOD_H2
2 часа
PERIOD_H3
3 часа
PERIOD_H4
4 часа
PERIOD_H6
6 часов
PERIOD_H8
8 часов
PERIOD_H12
12 часов
PERIOD_D1
1 день
PERIOD_W1
1 неделя
PERIOD_MN1
1 месяц
https://www.mql5.com/ru/docs/constants/chartconstants/enum_timeframes
Не смогу так быстро, ближе к вечеру только, либо на днях
На малых ТФ переполняться память. Забивается 16 озу и файл подкачки (своп на маке) 30гиг. Ну там матрица корреляционная 50к на 50к размером, например.
16 гг матрица станет 4гг.
Ну и все расчеты в ОЗУ идут - надо добавить. Сейчас память недорогая.
Квантизацию делаете? Основная цель квантизации - уменьшение размеров данных. 4 байтовый float в 1 байтовый uchar или char.
16 гг матрица станет 4гг.
Ну и все расчеты в ОЗУ идут - надо добавить. Сейчас память недорогая.
Не знаю как потом считать корреляцию
в макбук память не так просто добавить ) Все равно это крайне неэффективно для временного ряда, надо переделать как-то
Тем более что спущусь еще на ТФ ниже и нужно будет еще в 5 раз больше ресурсов
через SQL эффективно будет считать?
Не знаю как потом считать корреляцию
в макбук память не так просто добавить ) Все равно это крайне неэффективно для временного ряда, надо переделать как-то
Тем более что спущусь еще на ТФ ниже и нужно будет еще в 5 раз больше ресурсовВ алглибе есть ф-я расчета корелляции double. Думаю можно просто поменять все переменные на char/uchar и все будет работать.Там еще с десяток используемых функций тоже надо переделать. И от CMatrixDouble перейти к динамическим массивам или как то по другому.
//| INPUT PARAMETERS: |
//| X - array[N,M], sample matrix: |
//| * J-th column corresponds to J-th variable |
//| * I-th row corresponds to I-th observation |
//| N - N>=0, number of observations: |
//| * if given, only leading N rows of X are used |
//| * if not given, automatically determined from input |
//| size |
//| M - M>0, number of variables: |
//| * if given, only leading M columns of X are used |
//| * if not given, automatically determined from input |
//| size |
//| OUTPUT PARAMETERS: |
//| C - array[M,M], correlation matrix (zero if N=0 or N=1) |
//+------------------------------------------------------------------+
static bool CBaseStat::PearsonCorrM(const CMatrixDouble &cx,const int n,
const int m,CMatrixDouble &c)
И если у вас самоделка - то и квантизацию надо будет делать, если нет готового пакета, который ее делает.
через SQL эффективно будет считать?
На малых ТФ переполняться память. Забивается 16 озу и файл подкачки (своп на маке) 30гиг. Ну там матрица корреляционная 50к на 50к размером, например.
зачем там кореляционная матрица вообще нужна можешь обяснить?
есть паттерн , есть масив истории с которой можно паттерн сравнить, в чем проблема вообще?
зачем там кореляционная матрица вообще нужна можешь обяснить?
есть паттерн , есть масив истории с которой можно паттерн сравнить, в чем проблема вообще?
нет паттерна, паттерны ищутся по корр. матрице