Hallo Der,
Hallo,
FAQ: Wieso habe ich beim Rechnen mit Dezimalzahlen Rechenfehler?
Sehr informativ, danke.
wird immer wieder gern empfohlen. ;-)
Also "Nicht exakt darstellbare Zahlen im Binärsystem". Das bedeutet dann wohl, in der Schleife ist der wahre (im System unsichtbare) Wert im Hintergrund beim Breakpoint ein anderer, als bei einer gleichen (im sichtbaren Bereich) Einzelrechnung.
Nein. Es bedeutet vielmehr, dass Fließkommazahlen intern immer um mindestens ein Bit genauer gespeichert als sie tatsächlich angezeigt werden. So werden Zahlen zur Darstellung also immer gerundet (und sei es auf 12 Nachkommastellen oder so).
Ich vermute mal du meinst das anders, klingt aber so als wenn der interne Wert genauer wäre als der exakt angegebene Wert, zb. 3,4 wird zu 3,39999999… symbolisch gesehen. Das ist für mich dann nicht genauer gespeichert.
Gruss
Henry
Meine Meinung zu DSGVO & Co:
„Principiis obsta. Sero medicina parata, cum mala per longas convaluere moras.“