Ich habe voller Freude festgestellt, dass Slurp meine Seite mal wieder wie blöd spidert. Auf dem zweiten Blick habe ich jedoch entsetzt festgestellt, dass nur 404 produziert wird.
Es handelt sich jedoch um einwandfreie Links und Seiten, die statisches html haben. Der Server meines Webanbieters ist auch nicht down.
Bis gestern hat Slurp auch immer einwandfrei 200er geslurped.
Slurp produziert bei mir regelmäßig auf bestimmten Unterseiten 404 - google und Xenu niemals. Slurp scheint mit der relativen Verlinkung nicht klarzukommen und sucht die Dateien im Stammverzeichnis, wo sie natürlich fehlen.
Ich hatte schon einmal eine Mail an Yahoo geschickt, keine Antwort, keine Änderung.
Kann es sein, dass der Anbieter aufgrund des hohen Traffics den Slurp einfach aussperrt?
Der Anbieter hat sich schon mal über hohen Traffic auf meiner Seite beklagt - und das obwohl die 10 Gig nicht mal erreicht sind, die im Vertrag zugesichert sind.
Ich habe ihn auf jeden Fall mal gefragt. Falls das wirklich der Fall wäre dann brauch ich sofort einen neuen Anbieter
Ich hatte den Content kurzfristig mal auf eine Sub-Domain gelegt, mich dann aber dazu entschlossen, das ganze doch auf meine Hauptdomain zu legen. Und obwohl der Slurp zuerst die Hauptdomain gespidert hat, ist er irgendwie auf die Sub gekommen...
Ich habs jetzt mit redirect 301 auf die Hauptdomain umgeleitet - und schon tauchts in der Log so auf: