Почему математические вычисления с десятичными дробями дают мне результаты со слишком большим количеством знаков?

Изменено Вт, 28 Июл на 6:36 PM

Проблема, с которой вы столкнулись, является фундаментальной особенностью того, как компьютеры обычно выполняют математические операции. Обычно это называют ошибкой с плавающей запятой. По сути, это сводится к тому, что очень трудно представить 0,1 в двоичном виде (или 0,01 и т. д.), и вам приходится приложить некоторые усилия, чтобы округлить результаты, которые выдает компьютер, чтобы сделать их более точными.


Эта проблема недавно возникла в нашей команде, и мы обсуждали, как с ней справиться. В «облачках речи» числа округляются, но это может привести к некоторым неточностям. «Облачко мысли» дает немного другие результаты, и сейчас команда не пришла к единому мнению о том, какой вариант предпочтительнее. Вы можете попробовать прогнать свои ответы через «облачко речи» или блоки «округлить».

Вот дополнительная информация о математике с плавающей запятой: https://0.30000000000000004.com/.
А вот видео, которое хорошо объясняет эту тему: https://www.youtube.com/watch?v=PZRI1IfStY0

Статья помогла?

Отлично!

Спасибо за ваш отзыв

Извините, что не удалось помочь!

Спасибо за ваш отзыв

Расскажите, как мы можем улучшить эту статью!

Выберите хотя бы одну причину
Требуется проверка CAPTCHA.

Комментарий отправлен

Мы ценим вашу помощь и постараемся исправить статью