Seite 1 von 1
XML Sitemap Generator für Webseiten mit 7 Millionen Seiten?
Verfasst: 30.04.2009, 15:52
von Tangulas
Wer kann mir ein XML Sitemap Generator für eine Webseiten mit 7 Millionen Seiten empfehlen?
Gut wäre die Möglichkeit Filter zu setzen, um überflüssige Parameter in der URL zu vermeiden!
Vielen Dank
Grüsse Sascha
Verfasst: 30.04.2009, 15:55
von MrTunes
Zu empfehlen ist da nur ein Generator für dein cms, der die map aus der db generiert.
Die 7mio Seiten zu crawlen ist Schwachsinn. Soweiso finde ich eine 7mio Seiten Sitemap schwachsinn.
Verfasst: 30.04.2009, 16:03
von Kristian
Hallo Sascha,
erstmal willkommen im Forum.
Wenn ich mich recht entsinne sind pro Datei max. 50.000 Urls erlaubt.
Diese diversen Dateien will man dann in eine Haupt-Verteiler-Datei eintragen, sollte für 7 Mios passen.
Die Frage ist, wie man die 7 Mio Seiten erfassen will.
Setz mal nen Bot dran und lass es einlesen. Bei einer Wartezeit von 5 Sekunden zwischen den Requests kommt man auf etwa 405 Tage, wenn ich mich nicht verrechnet habe.
Google wird für das Abarbeiten etwas länger brauchen.
Sag uns mal die Url auf der wir die Seiten kurz einsehen können, dann kann man dir zu den Filtern mehr sagen,
Gruß
Kristian