小数を使った計算で、桁数の多い結果が出てしまうのはなぜですか?

変更日 火, 28 7月 で 6:25 午後

この問題は、コンピューターが通常計算を行う方法における根本的な問題です。これは通常、浮動小数点誤差と呼ばれます。本質的に、これはバイナリで0.1(または0.01など)を表現するのが非常に難しいためであり、コンピューターが出す結果をより正確にするために、ある程度の丸め処理を行う必要があります。


この問題は最近チーム内で発生し、どのように対処するかを議論してきました。「言う」ブロックは数値を丸めますが、不正確さにつながる可能性があります。「考える」ブロックはわずかに異なる結果を出し、現在チーム内ではどちらが好ましいかについて完全に意見が一致していません。「言う」ブロックまたは「丸める」ブロックを使って答えを試してみてください。

浮動小数点演算に関する詳細情報はこちらです: https://0.30000000000000004.com/
そして、このトピックについて良い説明をしているビデオはこちらです: https://www.youtube.com/watch?v=PZRI1IfStY0

この記事は役に立ちましたか?

それは素晴らしい!

フィードバックありがとうございます

お役に立てず申し訳ございません!

フィードバックありがとうございます

この記事に改善できることがあれば教えてください。

少なくとも一つの理由を選択してください
CAPTCHA認証が必要です。

フィードバックを送信しました

記事の改善におけるご協力ありがとうございます。