Herbert: Google - ROBOTS.TXT - Wildcards

Beitrag lesen

Wenn Du die Dateien in Unterverzeichnisse legst und die in robots.txt sperrst, geht das. Sonst kannst Du nur alle Dateien einzeln aufführen.

laut google kann man neuerdings auch wildcards verwenden, abweichend vom Standard. Google spezifiziert aber leider nicht genau wie.

habe jetzt 2 stunden im  internet nach infos gesucht, aber nichts weiteres gefunden ausser:

User-Agent: *
Disallow: /
Allow: /*.html$