Rechenfehler unter IE5/6
Heinz Moser
- javascript
Hallo,
ich kämpfe mit einem kleinen Problem, eine Scriptberechnung liefert mir ein falsches Ergebnis zurück.
Die Multiplikation 98.6*0.75 liefert das Produkt 73.949999.. (richtig laut Taschenrechner 73.95) und das führt in der Folge zu einem Rundungsfehler, 73.90 anstelle von 74.00.
Wo liegt der Fehler? Ist meine Windose zu doof für diese Berechnung oder der IE oder mache ich etwas falsch?
Mir ist natürlich klar das ich das Problem mit einem umständlicheren Rechenverfahren (*100*75/10000) umschiffen könnte, aber das kann ja eigentlich auch nicht die Lösung sein.
Vielleicht kennt jemand ähnliche Probleme - ich bin dankbar für jeden Tipp.
H. Moser
Ein altbekanntes Problem. Schau mal hier nach:
http://dcljs.de/faq/antwort.php?Antwort=rechnen_rechnen
Da ist das ganze eigentlich sehr gut+ ausführlich besprochen.
Gruss
Stephan
Hallo,
ich kämpfe mit einem kleinen Problem, eine Scriptberechnung liefert mir ein falsches Ergebnis zurück.
Die Multiplikation 98.6*0.75 liefert das Produkt 73.949999.. (richtig laut Taschenrechner 73.95) und das führt in der Folge zu einem Rundungsfehler, 73.90 anstelle von 74.00.
Wo liegt der Fehler? Ist meine Windose zu doof für diese Berechnung oder der IE oder mache ich etwas falsch?
Mir ist natürlich klar das ich das Problem mit einem umständlicheren Rechenverfahren (*100*75/10000) umschiffen könnte, aber das kann ja eigentlich auch nicht die Lösung sein.
Vielleicht kennt jemand ähnliche Probleme - ich bin dankbar für jeden Tipp.
H. Moser
Die Seite ist sehr aufschlußreich. Es bleibt also doch bei dem umständlichen Rechenverfahren ohne Nachkommastellen.
Vielen Dank und einen schönen Tag noch.
H. Moser
Ein altbekanntes Problem. Schau mal hier nach:
http://dcljs.de/faq/antwort.php?Antwort=rechnen_rechnen
Da ist das ganze eigentlich sehr gut+ ausführlich besprochen.
Gruss
Stephan
Hallo,
ich kämpfe mit einem kleinen Problem, eine Scriptberechnung liefert mir ein falsches Ergebnis zurück.
Die Multiplikation 98.6*0.75 liefert das Produkt 73.949999.. (richtig laut Taschenrechner 73.95) und das führt in der Folge zu einem Rundungsfehler, 73.90 anstelle von 74.00.
Wo liegt der Fehler? Ist meine Windose zu doof für diese Berechnung oder der IE oder mache ich etwas falsch?
Mir ist natürlich klar das ich das Problem mit einem umständlicheren Rechenverfahren (*100*75/10000) umschiffen könnte, aber das kann ja eigentlich auch nicht die Lösung sein.
Vielleicht kennt jemand ähnliche Probleme - ich bin dankbar für jeden Tipp.
H. Moser
hi
Die Multiplikation 98.6*0.75 liefert das Produkt 73.949999.. (richtig laut Taschenrechner 73.95) und das führt in der Folge zu einem Rundungsfehler, 73.90 anstelle von 74.00.
lass ihn doch das ganze auf 2 Nachkommastellen runden, dann passt's wieder.
Grüße aus Bleckede
Kai