Объясните за нормализацию

 

Скажите, если я применяю нормализацию к принту, то это ведь значит что в мозгах компа все те же длинные цифры из нулей и единичка(например) на конце или как то так.

Как нормализовать данные в компе? Дело в том что у меня математика из-за этого считает разницу между пунктами как 0, а следом 2, хотя в натуре было 1 и 1.


ЗЫ. связано или нет с этим, но у меня проявлялась еще одна беда в тестере стратегий: тики считает - сравнивает с предыдущим, далее разницу умножаем на 100 000 и получаем чисто пункты. Так вот ТИКИ считает верно а разница так же, то 0, то потом 2, хотя было 2 раза по 1.

 
Tavol:

Скажите, если я применяю нормализацию к принту, то это ведь значит что в мозгах компа все те же длинные цифры из нулей и единичка(например) на конце или как то так.

Как нормализовать данные в компе? Дело в том что у меня математика из-за этого считает разницу между пунктами как 0, а следом 2, хотя в натуре было 1 и 1.


ЗЫ. связано или нет с этим, но у меня проявлялась еще одна беда в тестере стратегий: тики считает - сравнивает с предыдущим, далее разницу умножаем на 100 000 и получаем чисто пункты. Так вот ТИКИ считает верно а разница так же, то 0, то потом 2, хотя было 2 раза по 1.

Грамотно нормализуйте значения, записывая их в переменные. Лучше покажите кусок кода, чем описывать симптоматику. 

 

При выводе данных их нужно преобразовывать в строку явным образом. Например так:

Print(DoubleToString(A, 4));

Но это вовсе не значит, что значение переменной А станет другим.

 
Ihor Herasko:

При выводе данных их нужно преобразовывать в строку явным образом. Например так:

Но это вовсе не значит, что значение переменной А станет другим.

Я надеялся т.к. в моем понимании эти длинные цифры из-за проблем с числом в переменной, следовательно при обработке могут возникнуть проблемы в точности. А мне Принт нужен только для отладки, потом то выключу его.

 

Представление дробных чисел в двоичной системе счисления

https://server.179.ru/tasks/cpp/total/131.html

Причина обращения: