Seite 1 von 1
Yahoo + MSN ausperren: robots.txt überprüfen
Verfasst: 22.10.2007, 11:13
von websolutions
Hallo,
ich habe ein deutsches Forum, das seit neustem unheimlich viel von Yahoo und MSN indexiert wird. Da über Yahoo und MSN kaum Besucher kommen, die aber einen nicht zu vernachlässigen Traffic verursachen, möchte ich nun Yahoo & MSN aussperren.
Code: Alles auswählen
User-agent: Inktomi Slurp
User-agent: MSNBot
Disallow: /
Allow: /index.html
User-agent: *
Disallow:
Wird das Allow-Element von Yahoo & MSN beachtet?
Ich möchte die index.html indexieren lassen, damit die Seite bei Yahoo & MSN wenigstens im Index bleibt. Google soll uneingeschränkten Zugriff behalten, ist dann so alles korrekt formuliert? Werden die bereits indexxierten Unterseiten dann von MSN & Yahoo aus dem Index gekickt bzw. wie lange dauert das?
Verfasst:
von
SEO Consulting bei
ABAKUS Internet Marketing Erfahrung seit 2002
- persönliche Betreuung
- individuelle Beratung
- kompetente Umsetzung
Jetzt anfragen:
0511 / 300325-0.
Verfasst: 22.10.2007, 12:25
von Ehemalige Nutzer Z
mmh meist liegt das an der internen verlinkung, warum die jungs da so durch drehen.
vielleicht dort erstmal aufräumen? bevor man die lieben krabbler verkrault, weil wenn die erstmal sauer sind...
ist jetzt nur eine vermutung! kann auch einfach nur sein, das diese bleede sind.
Verfasst: 22.10.2007, 15:29
von websolutions
klar, mich interessiert jetzt aber erstranging ob der syntax so stimmt. ist der user-agent für yahoo richtig oder muss ich nur slurp nehmen?
Verfasst: 24.10.2007, 11:24
von eisblock
hi, so wär es richtig:
Code: Alles auswählen
User-agent: Slurp
Disallow: /
User-agent: msnbot
Disallow: /
besser wär statt "Disallow" einfach ein "Crawl-delay: xx" zu benutzen
"Allow" gibts eigl. nicht
Disallow: / und Allow: /index.html wiederspechen sich

Verfasst: 24.10.2007, 12:18
von seo-theo
Klar, wozu braucht man andere Suchmaschinen?
Verfasst: 24.10.2007, 13:35
von luzie
Tip: am besten noch ein Bild von Larry und Sergey an die Wand hängen und jeden Morgen mit nach vorn ausgestrecktem, rechten Arm davor salutieren ...
hmm ... ich ziehe die stündliche opferung von 2 kilo räucherstäbchen vor, erfahrungsgemäss steigt der pr dann um einen halben punkt pro jahr

Verfasst: 25.10.2007, 12:04
von websolutions
seo-theo hat geschrieben:Klar, wozu braucht man andere Suchmaschinen? Google reicht doch vollkommen....
Tip: am besten noch ein Bild von Larry und Sergey an die Wand hängen und jeden Morgen
mit nach vorn ausgestrecktem, rechten Arm davor salutieren......
Die Fragen hier auf dem Board werden immer dämlicher - und die Antworten auch.
klar, und die langeweile der flamer auch. wenn man nichts zu melden hat, einfach mal nichts posten. das schadet auch deinem postrank nicht
@
Disallow: /
Allow: /index.html
Google akzeptiert ja Allow, ich teste jetzt mal wie Yahoo und MSN darauf reagieren. Im Endeffekt heißt es dann verbiete alles außer: "...."
Ich überlege auch, da mich der Mirago-Bot jetzt auch anfängt zu nerven:
Code: Alles auswählen
User-Agent: msnbot
User-Agent: slurp
User-Agent: googlebot
Disallow:
User-Agent: *
Disallow: /
zu machen und eventuell noch ask zu erlauben.
werde es jetzt einfach mal testen.
Verfasst: 25.10.2007, 13:15
von seo-theo
User-agent:
Disallow: /
Verfasst: 25.10.2007, 14:16
von websolutions
@seo-theo: ne, der user-agent hirn wird ja durch user-agent: * abgedeckt. trotzdem danke für deine hilfe
