Problem mit selbsterstellter 403-Fehlerseite

[Beat]

Kann es sein, dass das nicht funktioniert, weil ich weiter unten auch nochmal mit <FilesMatch "(.*)"> arbeite? Muss ich da auch noch was verändern?

Ja.
Denn du wendest eine Regel auf alle Files an und überschreibst damit die zuvor definierte.
Wenn du eine allgemeine Regel machst für alle Files, dann sollst du diese weder in einen <Files> noch in einen <FilesMatch> Container stellen.