Christian Kruse: Fehler beim Berechnen von kubischer Funktion

Beitrag lesen

你好 Jakob,

das Skript das ich geschrieben hab berechnet die Funktion die in dem
einen Kommentar steht. Gibt man nun für die Schrittweite im Formular
0.5,1,2 o.ä. ein gibt es kein Problem.

Alles Werte, die man im Binaer-System problemlos darstellen kann: 0.1, 1,
10.

Bei 0.1,0.2 und ähnliches gibt es aber seh krumme Zahlen für das x [...]

Schonmal versucht, 0.1 oder 0.2 im Binaer-System darzustellen? ;-) Das gibt
keine endliche Zahl, sondern es wird zu einem periodischen Dezimalbruch. 0.1
ergibt 0,0 Periode 0011 und 0.2 gibt 0, Periode 0011. Die krummen Zahlen
kriegst du also wohl einfach aufgrund von Rundungsfehlern. Du koenntest
versuchen, Integerarithmethik zu benutzen und dann am Schluss zu dividieren,
um den Rundungsfehler klein zu halten.

再见,
 CK

--
Willst du die Freuden dieser Welt geniessen, so musst du auch ihr Leid erdulden.
http://wwwtech.de/