Seite 1 von 2

Gibt es tools, die mir anzeigen, wann welcher bot crawlt?

Verfasst: 24.05.2007, 19:29
von smsaffaere
Hallo zusammen,

kennt einer ein tool, womit ich genau sehen kann, wann welcher Bot von welcher IP zugegriffen hat?

Danke für die Hilfe.

Verfasst:
von

Hochwertiger Linkaufbau bei ABAKUS:
  • Google-konformer Linkaufbau
  • nachhaltiges Ranking
  • Linkbuilding Angebote zu fairen Preisen
  • internationale Backlinks
Wir bieten Beratung und Umsetzung.
Jetzt anfragen: 0511 / 300325-0

Verfasst: 24.05.2007, 20:06
von Wirths Media
Ja, nennt sich Logfile....

Verfasst: 24.05.2007, 21:53
von heino
Funktioniert aber nur richtig mit seinem Komplementär: Hirn2.0

Verfasst:
von

Verfasst: 24.05.2007, 21:55
von semtex
heino hat geschrieben:Funktioniert aber nur richtig mit seinem Komplementär: Hirn2.0
Das sind genau die richtigen Antworten, die sich ein neues Forenmitglied so wünscht. :idea:


Eigentlich jedes gute Counter oder Trackingssystem kann dieses Anhand einer Protokolldatei bzw. dem Logfile auswerten.
Es gibt dafür externe Dienste oder auch eigene Scripte die Du local auf Deinem Account installieren kannst.
Die Suche im hiesigen Forum hilft Dir bestimmt dabei weiter.

Verfasst: 25.05.2007, 00:28
von Gast
semtex hat geschrieben:
heino hat geschrieben:Funktioniert aber nur richtig mit seinem Komplementär: Hirn2.0
Das sind genau die richtigen Antworten, die sich ein neues Forenmitglied so wünscht. :idea:


Eigentlich jedes gute Counter oder Trackingssystem kann dieses Anhand einer Protokolldatei bzw. dem Logfile auswerten.
Es gibt dafür externe Dienste oder auch eigene Scripte die Du local auf Deinem Account installieren kannst.
Die Suche im hiesigen Forum hilft Dir bestimmt dabei weiter.
Wichtige Gegenfrage!
Kann man mit Füßen laufen ?

So bestimmte Dinge sollten eigentlich mehr als selbstverständlich sein. Der Weg zurück auf Newbie Niveau ist halt immer so lang - muss man nicht gleich sauer aufstoßen.

Re: Gibt es tools, die mir anzeigen, wann welcher bot crawlt

Verfasst: 25.05.2007, 08:21
von Ezeee
smsaffaere hat geschrieben:Hallo zusammen,

kennt einer ein tool, womit ich genau sehen kann, wann welcher Bot von welcher IP zugegriffen hat?

Danke für die Hilfe.
Wir benutzen php:

Code: Alles auswählen

<?php
$trackurl = $_SERVER&#91;'PHP_SELF'&#93; ;
$trackUserAgent =strtolower&#40;$_SERVER&#91;'HTTP_USER_AGENT'&#93;&#41;;
if &#40;stristr&#40;$trackUserAgent ,"archiver"&#41;&#41; &#123;$trackrobot="Alexa";&#125;
if &#40;stristr&#40;$trackUserAgent ,"exabot"&#41;&#41; &#123;$trackrobot="Exalead";&#125;
if &#40;stristr&#40;$trackUserAgent ,"fast"&#41;&#41; &#123;$trackrobot="Fast";&#125;
if &#40;stristr&#40;$trackUserAgent ,"firefly"&#41;&#41; &#123;$trackrobot="Fireball";&#125;
if &#40;stristr&#40;$trackUserAgent ,"googlebot"&#41;&#41; &#123;$trackrobot="Google";&#125;
if &#40;stristr&#40;$trackUserAgent ,"msnbot"&#41;&#41; &#123;$trackrobot="MSN";&#125;
if &#40;stristr&#40;$trackUserAgent ,"Yahoo! Slurp"&#41;&#41; &#123;$trackrobot="Yahoo! Slurp";&#125;
if &#40;stristr&#40;$trackUserAgent ,"yahoo"&#41;&#41; &#123;$trackrobot="Yahoo";&#125;
if &#40;stristr&#40;$trackUserAgent ,"Ask Jeeves/Teoma"&#41;&#41; &#123;$trackrobot="Ask Jeeves/Teoma";&#125;
if &#40;stristr&#40;$trackUserAgent ,"jeeves"&#41;&#41; &#123;$trackrobot="Ask Jeeves";&#125;
if &#40;stristr&#40;$trackUserAgent ,"teoma"&#41;&#41; &#123;$trackrobot="Teoma";&#125;
$trackdate = date&#40;'Y-m-d'&#41;;
$tracktime = date&#40;'H&#58;i&#58;s'&#41;;
$trackhost = $_SERVER&#91;'HTTP_HOST'&#93;;
$trackaddr = $_SERVER&#91;'REMOTE_ADDR'&#93;;
$referer = $_SERVER&#91;'HTTP_REFERER'&#93;;
if &#40;$trackrobot != ""&#41; &#123;
// Suchmaschinen //
$eingeloggt = "
trackrobot= $trackrobot
trackurl= $trackurl
trackdate= $trackdate
tracktime= $tracktime
trackhost= $trackhost
trackaddr= $trackaddr
";
mail &#40;"deine@mail.de", "Der $trackrobot war da!", "$eingeloggt"&#41;;
&#125; ?>
Das in eine php-Datei und per include in jede Seite einbinden, und du bekommst eine Mail, die so aussieht:

Code: Alles auswählen

Betreff&#58; Der google war da!

trackrobot= Google
trackurl= /verzeichnis/datei.html
trackdate= 2007-05-25
tracktime= 06&#58;57&#58;08
trackhost= www.deinedomain.de
trackaddr= 66.249.70.41
wir haben eine extra Mailadresse dafür eingerichtet, du musst sehen wie du das organisierst wenn es zuviel wird. du kannst die robotliste ergänzen oder bspw auch die ausgabe ändern, so dass bspw direkt in eine datenbank geschrieben wird.

Siehe auch
https://www.abakus-internet-marketing.d ... -1001.html

viele Grüße, Ezeee

Verfasst: 25.05.2007, 10:44
von scarim
Ich benutze Seit einiger Zeit mit wachsender Zufriedenheit dieses System:
https://www.crawltrack.fr/

haste ein tool, kannst alle seiten einpflegen & direkt ne übersicht + weitere details..

Verfasst: 25.05.2007, 14:17
von ole1210
Das ist ein Witz, oder?

Du lässt dir nicht wirklich immer eine Mail schicken wenn nen Bot irgendeine Unterseite besucht hat, oder?

Das ist doch absoluter Wahnsinn!!!
Oder du hast eine ganz kleine Seite und kaum Besuche.

Verfasst: 25.05.2007, 14:57
von marle
@Ezeee

wir haben allein von Google 15000 zugriffe täglich (auf 5 Domains verteilt)
da wär das Postfach schnell voll ;-)

Besten Dank

Verfasst: 02.06.2007, 11:32
von smsaffaere
Vielen Dank für die vielen comments, die ich leider erst jetzt sehe. Irgendwie krieg ich keine Info-Mail bei neuen Antworten auf meine threats.
Jedenfalls habe ich dann wohl ein Problem: php und mySQL werden für mich auf ewig ein Hindernis darstellen, da ich offenbar kein Coder bin. :oops:
Aber vielleicht kann ich mit dem anderen tool was anfangen ... ich bin gespannt.

Verfasst: 02.06.2007, 14:28
von Ehemalige Nutzer Z
wasn das für ein quatsch?
wenn ich ein bot wäre würd ich mir verarscht vorkommen...

Verfasst: 02.06.2007, 14:30
von Wirths Media
Es gab doch mal ein User online Script, würde ich mal nach googeln...

Verfasst: 03.06.2007, 17:57
von scarim
Jedenfalls habe ich dann wohl ein Problem: php und mySQL werden für mich auf ewig ein Hindernis darstellen, da ich offenbar kein Coder bin.
Schonmal die Installationsanleitung gelesen?
Ich würd mich an deiner Stelle aber erstmal mit anderen, wesentlicheren Dingen beschäftigen, als zu erfahren wann der GoogleBot kommt.

Verfasst: 04.06.2007, 19:31
von fi-ausbilden
Pack Google Analytics auf Deine Seite, da muss man nicht viel von Technik verstehen. Da kannst DU dann sehen, wann die Bot´s da waren.

Ich selber benutze AWStats und eine TYPO3-Extension...

Verfasst: 05.06.2007, 09:02
von Keks
Google Analytics wird meines Wissens nach nur über JavaScript in die Seiten eingebunden. Da die Bots in der Regel JavaScript nicht unterstützen werden diese dann nicht getrackt. Also hilft meiner Meinung nach Google Analytics nicht weiter um die Bot Bewegungen zu sehen

Aber ich nutze selber kein Analytics, von daher kann das jetzt auch falsch sein was ich hier schreibe. Vielleicht könnte das noch jemand bestätigen oder dementieren ?!?

mfG
Keks