Habe in den Logs folgende Spider entdeckt:
TurnitinBot/2.0 https://www.turnitin.com/robot/crawlerinfo.html
Anscheinend für Universitäten und College in den USA.
Wir haben zwar im entferntesten Sinne auch mit Ausbildung zu tun, aber ich denke mal, der Besuch bringt unserer Seite nichts.Also sperren ?
Hallo,
hier nochmal zur Info - was Turnitin macht:
#
Turnitin peddles their plagiarism prevention system to draconian universities. Their TurnitinBot hit me a whopping 19,575 times in January. I have not checked whether they respect robots.txt, and with these numbers, I really don’t care. They’re sucking down over a gigabyte of data a month for no purpose that even remotely benefits me or any of my readers. I have banned them by User-Agent and IP address.
das war doch mal ein interessanter Tipp und guter Link. Allerdings vermisse ich IBM_Planetwide auf der Liste. Hab den jetzt per robots.txt ausgesperrt. Mal gucken ob er sich daran hält.