Andreas Lindig: Rechenfehler in JavaScript

Beitrag lesen

zu den Rundungsvorschlägen:

Ich muß eine Strecke - z.B. zwischen 127 und 16384 - in eine bestimmte Anzahl gleichmäßige Abschnitte teilen, z.B. in 17 Stück. Dazu berechne ich die Länge des Abschnitts (16384-127)/(17-1) und in der Schleife gehe ich immer in dieser Schrittweite voran. Wenn ich jedes Zwischenergebnis runden würde, käme ich ja ganz woanders am Ende raus, also runde ich absichtlich nicht. Ich könnte nur runden, wenn ich wüßte, an welcher Stelle die Abweichung auftritt. Im Ausgangsbeispiel 2611.3999999999996 ^= 2611.4 wüße ich: erste Nachkommastelle, aber die Abweichung kann ja immer woanders sein.

Mein Programm wird jetzt mit meiner Pi-mal-Daumen-Toleranz-Zugabe wohl funktionieren, aber interessant ist das Problem ja trotzdem mal ;-)

Gruß, Andreas

--
SELFFORUM - hier werden Sie geholfen,
auch in Fragen zu richtiges Deutsch