Mit Google und Bing decke ich den größten Teil aller Suchmaschinenanfragen ab.
Und das soll dich schützen? Diese sichtweise ist etwa so schmal wie die eines Apple-Benutzers: "Mac OS X hat so wenig Verbreitung, darum ist es sicher". Selbst 5 % Marktanteil im Internet sind aber enorm und keineswegs vernachlässigbar.
Bing hat nur zwei Bots, das ließ sich recht schnell herausfinden:
Ich werf mal wieder ein "Traurig" ein :)
msnbot/2.0b (+http://search.msn.com/msnbot.htm)
msnbot/1.1 (+http://search.msn.com/msnbot.htm)
Der hier scheint regelmäßig in meinen Logfiles auf und der "aktuellste", den Microsoft verwendet:
Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)
Generell ist mir klar, dass meine bei Bing/Google gesperrten Inhalte möglicherweise in der ein oder anderen Nischen-Suchmaschine auftauchen.
Yahoo z.B. - kleine Niesche, ja. Oder T-Online. Oder Ask - alle sehr klein.
Das ist aber in Ordnung und wenn ich es nicht wollte, dürfte ich den Inhalt nicht veröffentlichen.
Wenn du dein ursächliches Problem behebst, wirst du vermutlich mehr Erfolg haben.