hallihallo!
sperr ich mit dieser robots.txt:
User-agent: *
Disallow: /
allow: /web/
allow: index.htm
allow: index.html
alles außer dem Ordner web und den dateien index.htm(l)?
bin mir zwar _fast_ sicher, dass es stimmt, hab aber angst, die hp ganz für robots zu sperren.
vielen dank
mfg thomas