Pytania oznaczone «googlebot»

Googlebot to bot, którego Google używa do indeksowania ponad 20 miliardów stron każdego dnia, a dane uzyskane podczas indeksowania są następnie analizowane i klasyfikowane w wyszukiwarce Google.

17
Czy Google buforuje plik robots.txt?

Dodałem plik robots.txt do jednej z moich witryn tydzień temu, co powinno uniemożliwić Googlebotowi próby pobrania niektórych adresów URL. Jednak w ten weekend widzę, że Googlebot ładuje te dokładne adresy URL. Czy Google buforuje plik robots.txt, a jeśli tak, to

10
Jak Google zdołał zaindeksować moje 403 strony?

Miałem kilka prywatnych plików w katalogu w moim szkolnym folderze. Możesz zobaczyć, że pliki istniały, przechodząc do myschool.edu/myusername/myfolder, ale próba uzyskania dostępu do samych plików przez myschool.edu/myusername/myfolder/myfile.html zwraca błąd 403. A jednak Google jakoś udało się...

9
Czy powinniśmy porzucić schemat indeksowania AJAX?

Więc teraz Google wycofał schemat indeksowania AJAX . Mówią, że nie zawracają sobie głowy wdrażaniem go w nowych witrynach, ponieważ nie jest to już potrzebne, ponieważ Googlebot nie ma teraz problemu z oglądaniem dynamicznych treści. Czy powinniśmy natychmiast zaufać temu stwierdzeniu, czy lepiej...