Ingo Turski: Robots.txt

Beitrag lesen

Hi,

AFAIR müsste dies so machbar sein:

User-agent: *
Disallow: *.txt

Siehe auch [Wikipedia: Robots.txt]

da solltest Du auch mal reinschauen:
"Bei den Angaben zu Disallow: können Sie Verzeichnispfade und einzelne Dateien mit Pfadangabe angeben. Wildcards wie * oder *.* sind dabei *nicht* erlaubt."

Oder aus der Quelle http://www.robotstxt.org/wc/exclusion-admin.html:
"Note also that regular expression are not supported in either the User-agent or Disallow lines. The '*' in the User-agent field is a special value meaning "any robot". Specifically, you cannot have lines like "Disallow: /tmp/*" or "Disallow: *.gif"."

freundliche Grüße
Ingo