Advanced Mod Rewrite und robots.txt

Gesperrt
paranoid64
Beiträge: 37
Registriert: Sa 3. Okt 2009, 19:22
Kontaktdaten:

Advanced Mod Rewrite und robots.txt

Beitrag von paranoid64 »

Hallo,

ich habe Advanced Mod Rewrite auf meine Seite laufen.
Dies funktioniert auch super, (jetzt das "aber" :wink: ) die robots.txt kann aber nicht mehr aufgerufen werden.

Ich habe auch versucht die in der .htaccess mit einer Regel auszulassen.

Code: Alles auswählen

RewriteRule ^cms/robots.txt.*$ - [L]
Die robots.txt liegt auch im Verzeichnis "cms" mit den rechten 644.

Sobald ich robots.txt anzeigen möchte habe ich die Startseite.
Bei google Webmaster zeigt er bei robots mein Layout an 8).

Hat jemand noch eine Idee ?

VG
idea-tec
Beiträge: 1242
Registriert: Do 19. Sep 2002, 14:41
Wohnort: Dichtelbach
Kontaktdaten:

Re: Advanced Mod Rewrite und robots.txt

Beitrag von idea-tec »

ich bin nicht der mod-rewrite-crack, aber durch die htaccess, und weitere einstellungen z.b. im layout, wie revisit, oder ähnlichem brauche ich keine robots.txt mehr, da ich in der htaccess, ja bereits mitteile, wo umgeschrieben werden soll und wo nicht, und wenn dann ne suchmaschine wo hin will, wo sie nicht soll, greift ja mod-rewrite, odda net?

man korrigiere mich, wenn ich hier was falsch verstehe.
MfG, Karsten
Nicht Können bedeutet nicht, dass man etwas nicht beherrscht, sondern lediglich, dass man sich nicht traut es zu tun ;-)
| Internet | Ihr Logo deutschlandweit auf T-Shirts |
Diplomatie: Jemanden so in die Hölle zu schicken, dass er sich auf die Reise freut!!! ;-)
Oldperl
Beiträge: 4316
Registriert: Do 30. Jun 2005, 22:56
Wohnort: Eltmann, Unterfranken, Bayern
Hat sich bedankt: 6 Mal
Danksagung erhalten: 4 Mal
Kontaktdaten:

Re: Advanced Mod Rewrite und robots.txt

Beitrag von Oldperl »

Korrektur:
Ein ganz klares JEIN.
Die robot.txt hat nicht nur die Aufgabe Robots von Seiten "auszusperren", mit ihr kann man dediziert Robots sperren/zulassen und im Extrem sogar bestimmte Dateien bzw. Dateitypen.
Vieles davon geht sicher auch per .htaccess, aber dabei nicht problemlos nur für bestimmte Robots.
Weitere Info zum Thema :arrow: http://de.wikipedia.org/wiki/Robots_Exclusion_Standard

Gruß aus Franken

Ortwin
ConLite 3.0.0-dev, alternatives und stabiles Update von Contenido 4.8.x unter PHP 8.x - Download und Repo auf Gitport.de
phpBO Search Advanced - das Suchwort-Plugin für CONTENIDO 4.9
Mein Entwickler-Blog
Gesperrt