Der Martin...: 1em oder 1.0em

Beitrag lesen

Hi Alexander,

Bei technischen Anwendungen (z.B. bei der Verarbeitung von Messergebnissen) bedeutet
1mm irgendetwas zwischen 0.5mm und 1.4mm;
1.0mm dagegen irgendetwas zwischen 0.95mm und 1.04mm.

das heißt also, dass mit der Anzahl der Stellen auch eine Aussage über die Genauigkeit des angegebenen Werts gemacht wird. Das klingt eigentlich plausibel und einleuchtend.

Es muss AFAIK heißen
[latex]{4V \over 47A} = 0.085 ; \Omega[/latex]

Aber worauf begründet sich bei diesem Beispiel deine implizite Behauptung, der darin berechnete Widerstand habe eine Genauigkeit von 1mΩ?

So long,

Martin