Hallo,
Ich meinte, dass bei einem 64-Bit-Float bei 7-stelligen Zahlen noch 7 weitere Stellen bis zum Ende der Genauigkeit übrigbleiben. Um diese Genauigkeit aufzubrauchen, muss man also den Rundungsfehler um diese weiteren 7 Stellen nach links bekommen. Die zweimal angeführte 7 war leider zufällig gleich der 7 bei der Genauigkeit der 32-Bit-Floats.
alles klar, dann bin ich voll in die vorbereitete Missverständnis-Falle getappt. :-)
Ciao,
Martin
--
Kleine Geschenke erhalten die Freundschaft.
Große verderben sie aber meist auch nicht.
Selfcode: fo:) ch:{ rl:| br:< n4:( ie:| mo:| va:) de:] zu:) fl:{ ss:) ls:µ js:(
Kleine Geschenke erhalten die Freundschaft.
Große verderben sie aber meist auch nicht.
Selfcode: fo:) ch:{ rl:| br:< n4:( ie:| mo:| va:) de:] zu:) fl:{ ss:) ls:µ js:(