Narzędzia Google dla webmasterów mogą to zobaczyć, ale nie mogę jej znaleźć. Masz pomysł na to, jak jest generowany lub gdzie jest struktura plików? Nie widzę pliku w moim katalogu głównym. Moja witryna znajduje się pod adresem http://mikewills.me, a adres URL pliku robots.txt to http://mikewills.me/robots.txt .
Ostatecznie Google nie indeksuje mojej witryny i próbuję wymyślić, jak edytować plik robots.txt, aby umożliwić indeksowanie. Zmieniłem opcję prywatności, aby umożliwić indeksowanie, ale to nie zaktualizowało pliku robots.txt.
Odpowiedzi:
Jest generowany dynamicznie przez funkcję
do_robots()
, która ma zarówno akcję (do_robotstxt
), jak i filtr (robots_txt
). Jeśli utworzyszrobots.txt
plik w katalogu głównym WordPress, zostanie (prawdopodobnie) dostarczony na/robots.txt
żądanie, w przeciwnym razie przetwarzanie spadnie na WordPress.Twój aktualny plik wygląda następująco:
Pierwsze dwa ustawienia są odpowiednie dla blogu indeksowanego. W tym momencie możesz po prostu czekać na Google. Być może musisz poprosić o ponowne rozpatrzenie zgłoszenia witryny .
źródło
User-agent
dopasowanie*
(czyli wszystkie roboty), lista stron, do których nie można uzyskać dostępu,[empty]
”. Co oznacza, że mogą uzyskać dostęp do wszystkich stron.Plik robots.txt jest tworzony dynamicznie. Nie ma pliku robots.txt. Zainstaluj wtyczkę robot.txt rozwiąże twój problem. Mam nadzieję że to pomoże
źródło