Frage zu robots.txt
Verfasst: 13.11.2003, 10:07
Servus,
Liest so ein Bot die gesamte robots.txt oder nur bis er etwas für sich passendes gefunden hat.
Oder anders gefragt, wenn ich am Anfang Alles für Alle sperre und dann weiter unten einzeln die Bots deren Besuch ich weiterhin wünsche wieder freigebe, liest der Bot dann nur "Alles für Alle gesperrt" und hört auf oder liest er weiter in der Hoffnung doch irgendwo freigegeben worden zu sein.
Ciao
Sven
Liest so ein Bot die gesamte robots.txt oder nur bis er etwas für sich passendes gefunden hat.
Oder anders gefragt, wenn ich am Anfang Alles für Alle sperre und dann weiter unten einzeln die Bots deren Besuch ich weiterhin wünsche wieder freigebe, liest der Bot dann nur "Alles für Alle gesperrt" und hört auf oder liest er weiter in der Hoffnung doch irgendwo freigegeben worden zu sein.
Ciao
Sven