Du befindest Dich im Archiv vom ABAKUS Online Marketing Forum. Hier kannst Du Dich für das Forum mit den aktuellen Beiträgen registrieren.

Frage zu robots.txt

Alles zum Thema: Robots, Spider, Logfile-Auswertung und Reports
Neues Thema Antworten
SvRe
PostRank 2
PostRank 2
Beiträge: 33
Registriert: 17.10.2003, 08:53

Beitrag von SvRe » 13.11.2003, 10:07

Servus,

Liest so ein Bot die gesamte robots.txt oder nur bis er etwas für sich passendes gefunden hat.
Oder anders gefragt, wenn ich am Anfang Alles für Alle sperre und dann weiter unten einzeln die Bots deren Besuch ich weiterhin wünsche wieder freigebe, liest der Bot dann nur "Alles für Alle gesperrt" und hört auf oder liest er weiter in der Hoffnung doch irgendwo freigegeben worden zu sein.

Ciao
Sven