
Zum Thema;
Ich habe eine für mich interessante entdeckung gemacht, wobei ich noch nicht wirklich weiß wie oder ob man daraus einen vorteil ziehn könnte.
Ich hab das ganze in meinem Blog geschrieben was auch ein paar besucher vertragen kann

ganz kurz es geht darum das robots.txt anscheinend nur für inhalt des <body></body> tags gelten.
https://www.biatos.de/google-umgeht-robotstxt.html
wenn ich evtl. in den ansätzen falsch liege bitte kommentieren
