Tive o mesmo problema.
Rode o teste no mesmo período só que sem otimização, é provável que o erro no seu código apareça. Faça um debug rodando o teste somente no dia em que o teste for interrompido.
No meu caso era um stack oeverflow (chamada recursiva de um método) em uma condição específica.

Documentação sobre MQL5: Verificando Estado / Period
- www.mql5.com
Period - Verificando Estado - Referência MQL5 - Referência sobre algorítimo/automatização de negociação na linguagem para MetaTrader 5

Você está perdendo oportunidades de negociação:
- Aplicativos de negociação gratuitos
- 8 000+ sinais para cópia
- Notícias econômicas para análise dos mercados financeiros
Registro
Login
Você concorda com a política do site e com os termos de uso
Se você não tem uma conta, por favor registre-se
Fala pessoal, boa tarde.
Alguém poderia me ajudar?
Estou me deparando com esse erro com frequência quando faço otimizações no MT5 e tenho tido dificuldade de rastrear a origem do erro, não sei nem por onde começar na verdade.
Das outras vezes que me deparei com erros, na própria descrição do erro vinha a linha do código que deveria ser ajustada.
Alguém sabe me dizer por onde posso começar a procurar a fonte desse erro, ou se alguém já souber como tratá-lo.
Essa é a descrição completa do erro:
2020.12.12 03:08:48.741 Core 2 genetic pass (0, 29) tested with error "critical runtime error 517 in OnTick function (module -1 exception 0xc00000fd)" in 0:00:17.935
Obrigado.