Du befindest Dich im Archiv vom ABAKUS Online Marketing Forum. Hier kannst Du Dich für das Forum mit den aktuellen Beiträgen registrieren.

Über die Harvester/Bots

Alles zum Thema: Robots, Spider, Logfile-Auswertung und Reports
Neues Thema Antworten
everflux
PostRank 8
PostRank 8
Beiträge: 939
Registriert: 01.05.2006, 17:15

Beitrag von everflux » 30.01.2008, 17:23

Hallo,
bei mir häufen sich seit rund zwei Wochen Zugriffe von den verschiedensten Providern der Welt (aber hauptsächlich dial-up), die unmengen Seitenabrufe machen. Dabei werden dann "normale" Useragents als Identifizierung versendet.
Wer kann mir dazu mehr sagen (und tut es auch)?
Vor allem folgende Fragen interessieren mich
- Gibt es einige wenige große Bots oder baut sich jeder selber einen Schrott zusammen (a la Spidering Hacks von O'Reilly)
- Sind das Anwendungen die auf den Rechnern der echten "Täter" laufen, oder läuft sowas per botnet auf gekaperten Maschinen?
- Was machen die mit dem ganzen Content (ich habe bei den betroffenen Seiten noch keine Mirror Seiten entdeckt)
- Hat jemand so einen Harvester schonmal in die Hände bekommen?
- Ist es notwendig etwas gegen diese Bots zu unternehmen (außer unter Last und Traffikgesichtspunkten)

Ich würde mich sehr über Antworten freuen und kann gerne eigene Logs oder ähnliches beisteuern falls das etwas hilft.
https://everflux.de/ blogging about life, programming, seo and the net