Christian Kruse: wget funkitoniert nicht mit robots.txt?

Beitrag lesen

Hallo,

User-Agent: *
Disallow: /
   ^^^^^^^^^^^   das Proble liegt in dieser Zeile.
Allow: /archiv/
Allow: /faq/

ohne Disallow: / funktioniert es ebenfalls. wget scheint da nicht ganz korrekt zu
interpretieren.

Nene, wget macht da alles richtig. Das ist ein Fehler in SELFHTML, es gibt kein 'Allow', wie
ich eben nachgelesen habe. Und das 'Disallow: /' verbietet die komplette Domain.

Gruesse,
 CK