nicht angemeldet
JürgenBHallo mathNewbie,
schau dir mal den Thread etwas weiter unten an: https://forum.selfhtml.org/?t=107456&m=667310.
Dein Problem besteht darin, dass du erwartest, Rechner rechnen beliebig genau. Bei einer 64-bit-Zahldarstellung kannst du aber nur [1] ca. 15 Nachkommastellen erwarten. Außerdem arbeiten Rechner im Hexadezimalsystem und bei der Umrechnung in das Dezimalsystem kommt es ebenfalls zu Rundungsfehlern.
Gruß, Jürgen
[1] Bei dieser Genauigkeit kann man bis 10.000.000.000.000,00 € auf den Cent genau rechnen. Das sollte für die meisten Shopsysteme reichen. Auch Naturwissenschaftler, Ingenieure, etc. kommen mit dieser Genauigkeit gut zurecht. Und wenn das nicht reicht, dann muss man auf Spezialsoftware (Computeralgebra) zurückgreifen.