links für Spider in einem Verzeichnis gezielt ausblenden
Verfasst: 13.09.2005, 17:05
Hallo
wir möchten in einem PhpBB2-Forum gezielt unwichtige Links, wie z.B. Moderatorengruppen, Login, Userliste etc. ausblenden für Spider. Die bisherige Robots.txt im Hauptverzeichnis sieht so aus:
Wenn ich nun in meinem Forum im Verzeichnis phpBB2/ zum beispiel folgenden Bereich nicht spidern möchte: https://www.androgen-steroids.com/phpBB ... 2b957a1b62
dann den Robot.txt so ergänzen:
Oder ist da ein Denkfehler? Alle Links die im Forum nicht von Spidern besichtigt werden sollen möchte ich auf diese Art ausschließen. Die Variablen in der Who is online da weiß ich noch nicht genau was wir da machen werden. Ganz klar ist aber das wir zuviele Links haben die für Spider weg müssen. Ideen, Anregungen?
Danke
Gruß,
Markus
wir möchten in einem PhpBB2-Forum gezielt unwichtige Links, wie z.B. Moderatorengruppen, Login, Userliste etc. ausblenden für Spider. Die bisherige Robots.txt im Hauptverzeichnis sieht so aus:
Code: Alles auswählen
User-agent: *
Disallow: /admin/
dann den Robot.txt so ergänzen:
Code: Alles auswählen
User-agent: *
Disallow: /admin/
Disallow: /phpBB2/groupcp.php?g=3
Danke
Gruß,
Markus