Вы приводите на скриншоте один точный пример, а в тексте пишете совершенно некорретный совсем с другим числом и вводящим в заблуждение "результатом".
Наличие мелкого остатка в последнем разряде при операциях с вещественными числами объясняется методом представления этого числа в компьютерах. Дело в том, что вещественные числа хранятся в дискретном/приблизительном представлении. Посмотрите более детальное объяснение тут: http://book.kbsu.ru/theory/chapter4/1_4_13.html
На всякий случай - это касается любого языка программирования общего плана.
- book.kbsu.ru
Вы приводите на скриншоте один точный пример, а в тексте пишете совершенно некорретный совсем с другим числом и вводящим в заблуждение "результатом".
Наличие мелкого остатка в последнем разряде при операциях с вещественными числами объясняется методом представления этого числа в компьютерах. Дело в том, что вещественные числа хранятся в дискретном/приблизительном представлении. Посмотрите более детальное объяснение тут: http://book.kbsu.ru/theory/chapter4/1_4_13.html
На всякий случай - это касается любого языка программирования общего плана.
- Бесплатные приложения для трейдинга
- 8 000+ сигналов для копирования
- Экономические новости для анализа финансовых рынков
Вы принимаете политику сайта и условия использования
Я чего-то не понимаю или не правильно пользуюсь данный функцией обрезки числовых значений?
Почему функция число 0.0123456 не обрезает?
После работы функции
Должны получмить 0.01, а не 0.0123456. То есть функция в каких-то моментах не работает?