Hallo!
Wo liegt denn genau die .htaccess? Kann nicht sein das da irgendwo ne Endlosschleife passiert, da /404/index.php nicht gefunden wird, dann wieder per .htaccess dahin gelenkt...
Und wie sieht der Quellcode Deiner index.php aus? Bei mir funktioniert das übrigens auch nicht richtig, konnte ich bis jetzt nicht klären warum, habe zwar keinen 500er, aber die wird einfach nicht aufgerufen. Probier mal einen absoluten Pfad in der htaccess, der Art
ErrorDocument 404 http://www.domain.de/404/index.php
Beachte aber, das in diesem Fall 'nur' auf die /404/index.php umgeleitet wird, d.h. der Link steht dann auch so im Fenster oben. D.h. Du kommst an einige Informationen nur noch über den Referer, und das ist recht unzuverlässig!
Grüße
Andreas