В Яндекс.Вебмастер добавили новый инструмент – «Скорость обхода». Его можно найти в разделе «Индексирование». Инструмент позволяет регулировать, как часто Яндекс может делать запросы к сайту (регулировать скорость обхода сайта со стороны поисковых роботов).
По умолчанию Яндекс будет подбирать максимальную скорость для конкретного сайта, учитывая допустимые нагрузки для сервера.
Команда Яндекса также проанализировала письма в поддержку по вопросам индексирования за последние два года. Выяснилось, что одной из основных причин медленного скачивания документов является неправильно настроенная директива Crawl-delay в robots.txt. Владельцы сайтов часто ставят такие же значения, как «у других», – как у старых сайтов, серверами которых служили еще «домашние» компьютеры, а не мощные стойки в дата-центрах. Бывали случаи, когда встречались такие значения, как 20, 50, а порой и 100. При этом, если этот показатель был больше 2, скорость обхода сайта сильно снижалась, так как именно эта директива отвечает за то, как часто робот может обращаться к сайту. Из-за неверно установленной директивы страницы сайта могли долгое время не индексироваться роботом.
Чтобы владельцам сайтов больше не приходилось об этом беспокоиться, Яндекс решил отказаться от директивы Crawl-delay. Все, кто по каким-то причинам хочет ограничить скорость обхода сайта, может воспользоваться «Скоростью обхода». Он заменит собой рекомендации из директивы. Настроить его можно уже сейчас, а настройки начнут учитываться с 22 февраля.
В случае, если пользователь не знает, какое именно значение Crawl-delay нужно установить для его сайта, он может поставить значение «Доверить Яндексу». Робот сам выберет наиболее оптимальную частоту индексирования сайта.
Источник: Блог Яндекса для вебмастеров