Bekomme dann aber beim aufrufen der Website folgende Fehlermeldung :
500 Internal Server Error
The server encountered an internal error or misconfiguration and was unable to complete your request.
Please contact the server administrator, webmaster@xxxxx and inform them of the time the error occurred, and anything you might have done that may have caused the error.
More information about this error may be available in the server error log.
Achja selber schon draufgekommen bin ich dumm.
Das kommt natürlich in die robots.txt
Stellt sich mir nurnoch die Frage es gibt ja auch noch eine Möglichkeit böse Bots in der .htaccess zu verbieten. Ist es nun besser dies in der robots.txt zu machen oder in der .htaccess