Dezimal zu Dual

[Gunnar Bittersmann]

Axel,

Und hier ist das Problem. Die Rückrechnung von z.B. 0.3 geht nur gerundet.

Nö. Wenn du wirklich alle Perioden mitrechnest (Reihenentwicklung), kommt auch genau 0,3 raus. Nur dass Rechner schon nach endlich vielen Schluss machen, verfälscht das Ergebnis.

0.3(10)  = 0.01001(2)
         = 0*2^1 + 0*2^-1 + 1*2^-2 + 0*2^-3 + 0*2^-4 + 1*2^-5  + 1*2^-6
         =                  0.25                     + 0.03125 + 0,015625
         = 0,296875

Aber zwei, drei Perioden mehr dürften’s doch sein, dann wird’s auch genauer.

Gunnar