Warum erhalte ich bei Dezimalzahlen Ergebnisse mit zu vielen Stellen?

Geändert am Di, 28 Jul um 4:32 NACHMITTAGS

Das Problem, das du siehst, ist ein grundlegendes Problem damit, wie Computer typischerweise rechnen. Es wird normalerweise als Gleitkommafehler bezeichnet. Im Wesentlichen läuft es darauf hinaus, dass es sehr schwierig ist, 0,1 im Binärsystem darzustellen (oder 0,01 usw.), und man muss etwas Arbeit investieren, um die Ergebnisse, die ein Computer liefert, zu runden, um sie genauer zu machen.

Dies kam kürzlich im Team auf, und wir haben besprochen, wie wir damit umgehen sollen. Die „Sagen“-Blasen runden Zahlen, können aber zu Ungenauigkeiten führen. Die „Denken“-Blase liefert leicht unterschiedliche Ergebnisse, und im Moment ist sich das Team nicht ganz einig, welche Methode bevorzugt wird. Du kannst versuchen, deine Antworten durch die „Sagen“-Blase oder die „Runden“-Blöcke laufen zu lassen.

Hier sind weitere Informationen zur Gleitkomma-Mathematik: https://0.30000000000000004.com/.

Und hier ist ein Video, das das Thema gut erklärt: https://www.youtube.com/watch?v=PZRI1IfStY0