Hallo
Ich habe grade noch eine interessante Entdeckung gemacht. Die Darstellung scheint auch von der Schriftgröße beeinflusst zu werden.
Ersetze mal
mathsize="1em"
durch 2em, 3em oder auch Kommawerte. Dann werden die Wurzelzeichen in meinem Firefox nicht mehr so unterschiedlich angezeigt. Vielleicht hilft dir das weiter.
Wobei ich das Attribut durch CSS ersetzen würde. Wenn du mehrere MathML-Anzeigen hast könntest du so deren Schriftgröße einheitlich an einer Stelle ändern.