Ich würde den Bot, wie von bull beschrieben, über die .htaccess sperren. Wäre ja noch schöner, wenn man nun für jeden Bot eine eigene Datei anlegen soll.
Die erfolglosen Zugriffe auf nocrawlersoft.txt habe ich auch in den Logfiles gefunden. Und über Google habe ich dann weitere Infos zu diesem Mist gefunden.
Kann mich daher nur meinem Vorredner anschliessen: Aussperren und fertig!