Seite 1 von 2

Wieso klappt disallow hier nicht?

Verfasst: 01.04.2010, 16:40
von Babis
Hallo zusammen,

sitze schon eine Weile an diesem Problem, aber komme nicht weiter, wäre für Hilfe sehr dankbar:

Da auf einer meiner Seiten viele youtube-Videos eingebettet sind und es öfters mal vor kommt, dass diese vom Nutzer entfernt werden oder sich aus anderen Gründen nicht mehr abspielen lassen habe ich unter jede Seite mit Videos einen Link gesetzt: "Bitte melden falls Video nicht mehr funktioniert".
Mit einem Klick auf den Link bekomme ich eine Email zugesendet mit dem Titel der Seite auf der sich der Link befindet.

Nun habe ich das Problem das der Googlebot natürlich diesem Link auch folgt und daher bei jedem crawl eine Email gesendet wird. Um dies zu unterbinden habe ich in der robots.txt das Verzeichnis mit der php-Datei die beim Klick auf den Link augerufen wird "disallowed".

Leider folgt Google dem Link immernoch, auch nofollow hat nicht weitergeholfen. Kann mir jemand weiterhelfen?

Danke für Antworten

Verfasst:
von

Hochwertiger Linkaufbau bei ABAKUS:
  • Google-konformer Linkaufbau
  • nachhaltiges Ranking
  • Linkbuilding Angebote zu fairen Preisen
  • internationale Backlinks
Wir bieten Beratung und Umsetzung.
Jetzt anfragen: 0511 / 300325-0

Verfasst: 01.04.2010, 16:48
von Synonym
Bis die neue robots.txt ausgelesen und auch beachtet wird können durchaus Tage und Wochen vergehen. Ich habe auch so was in der Art wie Du, wo der Bot immer eine Aktion auslöste. Mach das ganze per Javascript und gut ist. Eventuell auch noch den Referer prüfen, denn Google sendet schon mal keinen.

Verfasst: 01.04.2010, 16:50
von heino
Kopier dir folgendes in deine .htaccess

Code: Alles auswählen

RewriteCond %{HTTP_USER_AGENT} (Googlebot|msnbot|Slurp) [NC]
RewriteRule !error - [L,F]

Verfasst:
von
SEO Consulting bei ABAKUS Internet Marketing
Erfahrung seit 2002
  • persönliche Betreuung
  • individuelle Beratung
  • kompetente Umsetzung

Jetzt anfragen: 0511 / 300325-0.


Verfasst: 01.04.2010, 16:53
von Synonym
Gehören da dann nicht die Klammer um Googlebot herum weg?
Ok, das Edit geht natürlich so auch. Dann mailt schon mal kein Bot mehr und funktioniert auch 100%

Verfasst: 01.04.2010, 16:57
von heino
Nö. Hab nochmal editiert und die Bots von Yahoo und Bing mit reingeschrieben. Dann brauchts die Klammer.

Verfasst: 01.04.2010, 16:58
von Babis
Danke für die Antworten,

ja sowas habe ich mir gedacht, in den Webmaster-Tools wird ja immer aktuelle robots.txt angezeigt und das ist in meinem Fall noch die Alte. Da muss ich wohl einfach abwarten.

@heino

Danke for den Code, hier wird ja aber nur den Googlebot ausgesperrt. Hatte aber auch schon yahoo da. Auf disallow sollten doch alle hören oder nicht? Bing, yahoo, google und co.?

Was genau wird denn in dem Code gemacht? Wird da der Googlebot nicht komplett ausgeschlossen?

Verfasst: 01.04.2010, 17:00
von Synonym
"Danke for den Code, hier wird ja aber nur den Googlebot ausgesperrt"
Er hat ja schon editiert... Ich war auch zu schnell ;-) Yahoo schreibste dann einfach mit rein und alle anderen großen auch.

Verfasst: 01.04.2010, 17:01
von Babis
Synonym hat geschrieben:"Danke for den Code, hier wird ja aber nur den Googlebot ausgesperrt"
Er hat ja schon editiert... Ich war auch zu schnell ;-)
Hoppla ja, sry :)

Könnt ich bitte eine kurze Erklärung bekommen was in dem Code gemacht wird?

Verfasst: 01.04.2010, 17:04
von Synonym
Na er macht das was Du wolltest. Er verhindert dass die dort aufgeführten USER-AGENTS Deiner "sende-mir-eine-Email.php" folgen. Dann ist ruhe im Schacht, kein "Spam"-Belästigung mehr durch sich selber.

Verfasst: 01.04.2010, 17:05
von heino
Die in Klammern angegeben Bots folgen deinem Link nicht mehr. Für Kollateralschäden übernehme ich keine Haftung.

Verfasst: 01.04.2010, 17:25
von Babis
Alles klar, das heißt der Code gilt nur für Bots im Bezug auf das Senden von Emails?

Verfasst: 01.04.2010, 17:32
von heino
Versuch macht kluch.

Verfasst: 01.04.2010, 17:37
von Babis
Dann versuch ich mal

Danke für die Hilfe!

Verfasst: 01.04.2010, 20:18
von huah
Babis, Du solltest nicht alles fressen, was man Dir hinschmeisst ...

Einfach die Links nur Usern mit Referer anzuzeigen wäre die billigste Lösung; kenne eigentlich nur den MSN-Bot, der hin und wieder einen Referer vortäuscht ...

Code: Alles auswählen

<?
if &#40;$_SERVER&#91;'HTTP_REFERER'&#93;&#41; &#123;
...
&#125;
?>

Verfasst: 02.04.2010, 07:56
von Synonym
oh du bist gemein.... aber die Aussage stimmt: "... Du solltest nicht alles fressen, was man Dir hinschmeisst ... "

Mein erster Vorschlag funktioniert aber, den mache ich auch so
https://www.abakus-internet-marketing.d ... tml#696808

Wobei ich da eher daran dachte das per JS zu machen und im JS dann noch den Referer zu prüfen. JS alleine reicht eigentlich aber auch schon.

Entweder den Link direkt per JS anzeigen, oder ein extra JS-Script, das dann per "new img()" das PHP-Script lädt.