
Давайте для начала определимся с основными понятиями, и о том, что мы будем рассматривать в этой статье?
Бот (англ. bot) является частью программного обеспечения поисковой системы, цель которого – найти и пройти по каждой странице вашего сайта, классифицировать ее по определенным признакам, и поместить в MySQL базу Google.
На данный момент Google имеет следующих хорошо известных вам ботов:
1) Adsense Bot
2) Freshbot
3) DeepCrawl
Adsense Bot, как вы могли, наверное, догадаться, используется для вебмастеров, которые имеют рекламные блоки Adsense на своих сайтах. Как только новая страница появляется на вашем сайте, нужный скрипт в пределах кода Adsense посылает сообщение боту -Adsense Bot, и в течение 10-20 минут, он начнет индексировать страницу сайта, для того чтобы показывать наиболее релевантные объявления.
Если вас не интересует Adsense Bot, переходим к следующим, наиболее важным ботам - DeepCrawl и Freshbot.
Freshbot выполняет задачу сканирования наиболее популярных страниц на вашем сайте. Не имеет значение, одна это страница или несколько тысяч. Такие крупные сайты, как DIGG. com и YouTube. com имеют несколько сотен тысяч страниц, которые сканируются каждые пять минут, и все потому, что Google отслеживает сайты с высокой степенью изменений контента. Известно, что эти страницы имеют большое количество частых изменений. Будь Google медлительнее, страницы утратили бы свою актуальность. Обычный сайт с более-менее обновляемым контентом, может рассчитывать на то, что Freshbot посетит его до 14-ти дней, в зависимости от того, как популярны эти страницы.
Что происходит с вашим сайтом, когда его посещает Freshbot?
Он сканирует страницы, начиная с главной и проходит все глубже в ваш сайт. Затем он помещает найденные ссылки в MySQL базу (базу данных). Так что, когда DeepCrawl наведывает ваш сайт, он знает какие ссылки есть на нем.
Примерно раз в месяц, DeepCrawl посещает ваш сайт и переходит по всем ссылкам, которые были найдены Freshbot. Это и есть та причина, почему индексация вашего сайта в Google может занять до одного месяца. Не спасает, даже добавление карты сайта.
В подведении итогов, хочу сказать, что будьте терпеливы и продолжайте пополнять свой сайт интересной и нужной информацией. Работайте на получение ценных и качественных ссылок с уважаемых порталов и Google, непременно, воздаст вам за это!
Статья предоставлена сервисом по анализу сайта и рекомендуется к прочтению вебмастерам и оптимизаторам.
15:26 14.12.2016
Вконтакте
Facebook
Мой мир
Google+
ОК
Отзывы и комментарии

На уроках - Интернет: эффективно или нет?
Время неумолимо ускоряет свой бег. Все торопятся жить. Нужно многое успеть. Для этого нужно многое знать. Нужны общение, информация и быстрота. Чтобы удовлетворять этим требованиям, во всех сферах чел...

Лечение шизофрении
Шизофрения - серьезное психическое заболевание, которое разрушает сознание человека. Личность больного кардинально меняется - несчастный с головой уходит в мир личных переживаний и теряет контакт с ок...

Египетские женщины глазами россиянина: какие они?
Египетские женщины невольно приковывают к себе взгляд иностранцев. Да, наверное, нам намного привычнее иная внешность, чем у египтянок. Судя по описаниям историков, Клеопатра была удивительно красива...

Кто такие кенгуру?
Обитает это животное лишь в одном месте Земного шара, на материке загадок и неожиданностей, в Австралии. Оно не похоже ни на какого другого зверя. Даже о его открытии и названии существует несколько в...

Петр Бойцов: безопасность, власть и время, или Кто п...
Только в России возможно подобное… Мы не знаем биографию этого человека, даже годы рождения и смерти точно неизвестны. Толком неизвестно и отчество. А ведь речь идет о 19−20 веках&hellip...

Как грамотно купить встраиваемую бытовую технику?
Свой интернет магазин техники на сегодня имеют фактически все центры бытовой техники и крупные фирмы Москвы. Весьма логично, ведь это не только намного увеличивает круг потенциальных клиентов, но и пр...