MudGuard: Brett vorm Kopf - alert(0.02+0.18) - Was kommt da raus?

Beitrag lesen

Hi,

alert(0.02+0.18);
Hab zwar in Mathe nicht oft aufgepasst, aber müsste da nicht 0.20 raus kommen?
Solln der Scheiß, dass mir da 0.19999998 geliefert werden?

Herzlich willkommen in der Welt der numerischen Mathematik.

Die Binärdarstellung von [endlichen Dezimal-]Zahlen ist nicht notwendigerweise endlich, der Speicherplatz für Zahlen im Computer ist endlich ==> die Rechnungen sind mit endlich großen Fehlern versehen.

Versuch doch mal, 0.02 und 0.18 als (endliche) Summe aus 1/2, 1/4, 1/8, 1/16, 1/32, 1/64, ... darzustellen.

cu,
Andreas

--
Warum nennt sich Andreas hier MudGuard?
Schreinerei Waechter
Fachfragen per E-Mail halte ich für unverschämt und werde entsprechende E-Mails nicht beantworten. Für Fachfragen ist das Forum da.