1em oder 1.0em

[Alexander Brock]

Hallo Freunde des gehobenen Forumsgenusses,

Bei den Ölaugen ist nämlich 1 mm mitnichten gleich 1,0 mm. Hat irgendetwas mit Toleranzen zu tun, wenn ich mich recht entsinne.

Bei technischen Anwendungen (z.B. bei der Verarbeitung von Messergebnissen) bedeutet

1mm irgendetwas zwischen 0.5mm und 1.4mm;
1.0mm dagegen irgendetwas zwischen 0.95mm und 1.04mm.

Daher ist folgende Rechnung schlicht und ergreifend falsch:
[latex]{4V \over 47A} = 0.085106382978723 ; \Omega[/latex]

Es muss AFAIK heißen
[latex]{4V \over 47A} = 0.085 ; \Omega[/latex]

Das gilt aber nur für das End-Ergebnis aller Rechnungen, wenn man mehrere Zwischenergebnisse hat muss man ein paar Stellen mehr stehen lassen,
damit der Rundungsfehler nicht zu groß wird.

Gruß
Alexander Brock