md5 funktioniert nicht über java

[Der Martin]

In deinem Script gibt es gar keine Funktion md5().
doch da
document.login.response.value = md5(str);

herrje, da rufst du die Funktion doch bloß auf! Davon ist sie noch lange nicht definiert! Versteh es doch: Es reicht nicht, wenn du sagst, "Hol mal 10 Brötchen beim Bäcker um die Ecke", wenn dort gar kein Bäcker ist.
In deinem Beispiel versuchst du eine Funktion aufzurufen, die nirgends definiert wird.

Als Resultat erfolgt ein Reload der Seite und deine Felder sind wieder leer.
OK, ich hab noch 'return false' hinzugefügt:
<input onClick="doChallengeResponse(); return false;" type="submit" name="submitbtn" value="Login now">

Na prima. Dann beraubst du den submit-Button seines einzigen Daseinszwecks.

denn bei button statt submit passiert gar nichts.
aber md5 läuft immernoch nicht (d.h. $_GET[response] = "")

Natürlich. Dein Script wird gar nicht erst ausgeführt (kann es auch nicht), weil ihm die Funktion md5() fehlt.

So long,
 Martin