Es sollte der Alternativtext angezeigt werden, die Webeite also voll funktionstüchtig sein.
Wenn Du wie im genannten Beispiel ein Bild als Hauptinhalt meinst, dann sehe ich das anders. Die Seite ist für Sehende dann nicht voll funktionstüchtig.
Mehr sollte man im IE 11 angesichts dessen Bedeutungslosigkeit nicht erwarten. Ich sehe da eher noch Safari unter macOS < 11 als problematisch an. Ansonsten grün soweit das Auge reicht.
Bist Du nicht der Verfechter von "progressive Enhancement"? Wenn der Server richtig konfiguriert ist, dann wird genau das erreicht. Ohne sich nen Kopp machen zu müssen, bei welchem Client was passiert.