Seite 1 von 1

SmartyBot 1.03 in die Spider-Trap getappt

Verfasst: 26.11.2006, 09:11
von Hobby-SEO
Nur ganz kurz:
Neuer Spambot: /falle/index.php 2006-11-26 (Sun) 07:28:22
IP: 38.113.65.231
User-Agent: SmartyBot 1.03 https://smartybee.com/smartybot.html
Auf der Website steht
To exclude SmartyBot simply add:

User-agent: SmartyBot
Disallow: /*
Zumindest von User-agent: * fühlt sich der Smartybot nicht angesprochen...

Schönen Sonntag!
Hobby-SEO

Verfasst:
von

Verfasst: 07.12.2006, 11:44
von n3m0
Natürlich nicht:

"Actually, for the moment, if the robots.txt file just has the word "smartybot" in it, we will ignore the site."


Gaaaaaanz grosser Sport.

Verfasst: 07.12.2006, 13:12
von Alpinist
Oder dieses hier:

"So don't set directories for inclusion or exclusion, we are just not that advanced yet."

Einen Textparser zu schreiben schaffen sie nicht - stellt sich nur eine Frage, was macht der Bot? Code parsen ist ja wohl etwas aufwendiger...

Grüße

Verfasst: 07.12.2006, 16:15
von JR-EWING
brauchen das wahrscheinlich nur für
https://smartybee.com/viewsource.cgi
:-)