wie sollte die korrekte robots.txt aussehen.
Es darf jeder robot die Site ohne Einschränkung durchsuchen.
Google schreibt ja:
Wäre dann dieser Eintrag in der robots.txt korrekt ?Falls Sie über eine Datei mit dem Namen robots.txt verfügen, müssen Sie diese entfernen oder die beiden folgenden Zeilen in der Datei robots.txt hinzufügen, damit unser Content-Bot Ihre Website crawlen kann:
User-agent: Mediapartners-Google*
Disallow:
User-agent: *
Disallow:
User-agent: Mediapartners-Google*
Disallow:
Grüsse
Ralf