Thilo: robots.txt

Beitrag lesen

Hi Michael

Nun ist es bei mir so, dass ich einen Domainname (bei Strato
;-)) habe, dieser aber allerdings sofort auf so ein Verzeichnis
(z.B. t-online/home/meinName/) umgeleitet wird.

das heißt, daß Deine Seiten wahlweise unter beiden DNS-Namen ansprechbar sind, ja?

Genau!

Kann ich die robots.txt doch verwenden?

Das ist nicht die interessante Frage.
Diese lautet vielmehr: In welchen Fällen wird die Seite von einer Suchmaschinen gelesen werden?

Wenn eine Suchmaschine über Deine Domain kommt und dort (!) eine /robots.txt über den entsprechenden URL ansprechen kann (einen Weiterleitung interessiert die Suchmaschine erst mal nicht, sie ist ja kein Browser), dann wird sie den Inhalt der Robots-Beschreibung lesen.

o.k., wenn nun da keine robots.txt vorhanden ist, wird dann die such maschine in der weiterleitung die robots.txt auswerten?
ich kann z. B. im Browser www.domainNameVonStrato.de/index.htm
angeben, wobei index.htm auf dem t-online/home account liegt.

Kommt die Suchmaschinen allerdings direkt über Deinen T-Online-Account, dann hast Du keine Chance, weil Du dort den Inhalt des site-relativen URL /robots.txt nicht verändern darfst.

ist klar!

gruss

Thilo