Войти как пользователь
Вы можете войти на сайт, если вы зарегистрированы на одном из этих сервисов:
16 Февраля 2018 в 10:35

Я.Вебмастер позволит регулировать скорость обхода сайта

1 4678

В Яндекс.Вебмастер добавили новый инструмент – «Скорость обхода». Его можно найти в разделе «Индексирование». Инструмент позволяет регулировать, как часто Яндекс может делать запросы к сайту (регулировать скорость обхода сайта со стороны поисковых роботов).

По умолчанию Яндекс будет подбирать максимальную скорость для конкретного сайта, учитывая допустимые нагрузки для сервера.

orig.png

Команда Яндекса также проанализировала письма в поддержку по вопросам индексирования за последние два года. Выяснилось, что одной из основных причин медленного скачивания документов является неправильно настроенная директива Crawl-delay в robots.txt. Владельцы сайтов часто ставят такие же значения, как «у других», – как у старых сайтов, серверами которых служили еще «домашние» компьютеры, а не мощные стойки в дата-центрах. Бывали случаи, когда встречались такие значения, как 20, 50, а порой и 100. При этом, если этот показатель был больше 2, скорость обхода сайта сильно снижалась, так как именно эта директива отвечает за то, как часто робот может обращаться к сайту. Из-за неверно установленной директивы страницы сайта могли долгое время не индексироваться роботом.

Чтобы владельцам сайтов больше не приходилось об этом беспокоиться, Яндекс решил отказаться от директивы Crawl-delay. Все, кто по каким-то причинам хочет ограничить скорость обхода сайта, может воспользоваться «Скоростью обхода». Он заменит собой рекомендации из директивы. Настроить его можно уже сейчас, а настройки начнут учитываться с 22 февраля.

В случае, если пользователь не знает, какое именно значение Crawl-delay нужно установить для его сайта, он может поставить значение «Доверить Яндексу». Робот сам выберет наиболее оптимальную частоту индексирования сайта.

Источник: Блог Яндекса для вебмастеров

1 комментарий
Подписаться 
Подписаться на дискуссию:
E-mail:
ОК
Вы подписаны на комментарии
Ошибка. Пожалуйста, попробуйте ещё раз.
  • Марина Белова
    1
    комментарий
    0
    читателей
    Марина Белова
    4 месяца назад
    Доверяю Яндексу. Вот если бы скорость была бы моментальной, было бы очень здорово!
    -
    1
    +
    Ответить

Отправьте отзыв!