Marc Reichelt: Alles erlauben in robots.txt

Beitrag lesen

Hallo Ashura,

Entweder Inhalt: nichts

Oder: lasse die gesamte Datei weg. ;)

Das ist so nicht ganz richtig. Eine explizite Erlaubnis mittels

User-agent: *
Allow: /

ist schon richtig, da man die Default-Einstellung des Robots nicht weiß.
Was passiert, wenn der Robot die Domains mit fehlender robots.txt standardmäßig ignoriert?
Das dürfte bei den meisten Robots nicht der Fall sein, ist aber möglich.

Bis dann!

Marc Reichelt || http://www.marcreichelt.de/

--
Linux is like a wigwam - no windows, no gates and an Apache inside!
SELFCode: ie:{ fl:| br:> va:} ls:< fo:} rl:( n4:( ss:) de:> js:| ch:? sh:| mo:) zu:)
http://emmanuel.dammerer.at/selfcode.html