Выпадение сайта из индекса — это частичная или полная потеря страниц из поискового индекса Google или Яндекса. Когда страницы выпадают из индекса, они перестают показываться в органической выдаче, что приводит к резкому падению трафика. Проблема может затронуть несколько страниц, отдельный раздел или весь домен целиком.
Выпадение из индекса — один из наиболее серьёзных технических инцидентов в SEO. Оно может произойти внезапно и без очевидных причин, что делает быструю диагностику критически важной.
Причины выпадения из индекса
Выпадение страниц может быть вызвано техническими или алгоритмическими факторами:
Технические причины:
- Блокировка через robots.txt — ошибочное добавление директивы
Disallow: /или блокировка важных разделов. Одна из самых частых причин массового выпадения страниц после технических работ. - Тег noindex — случайная установка
<meta name="robots" content="noindex">на продакшн-среде вместо тестовой. Часто происходит при переезде с dev-сервера. - Проблемы с доступностью сервера — если сайт не отвечает длительное время (более 24–48 часов), поисковик начинает удалять его страницы из индекса.
- Смена CMS или структуры URL без редиректов — при переезде сайта все старые URL становятся 404, и без 301-редиректов страницы выпадают из индекса.
- Взлом сайта — вредоносный код может добавить noindex на все страницы или заблокировать доступ поисковика.
Алгоритмические причины:
- Алгоритмический фильтр (Panda, АГС) снижает оценку качества страниц до уровня, при котором Google решает их не индексировать.
- Ручная санкция с исключением страниц из индекса.
- Массовое дублирование контента — Google выбирает «победителя» и удаляет дубли из индекса.
Как диагностировать выпадение из индекса
- Проверить Search Console — раздел «Покрытие» → «Не проиндексировано». Ищите статусы «Исключено» с причинами: «Заблокировано robots.txt», «noindex», «Дублирующаяся страница» и т.д.
- Запрос site:domain.ru — сравните количество результатов с реальным числом страниц сайта. Резкое сокращение — признак массового выпадения.
- Проверить robots.txt — откройте
вашсайт.ru/robots.txtи убедитесь, что нет случайных блокировок. Используйте тестировщик robots.txt в Search Console. - Проверить исходный код страниц — убедитесь, что нет тега
noindexв шапке страниц. - Проверить доступность через сторонние инструменты — сервисы вроде downforeveryoneorjustme.com покажут, доступен ли сайт из разных точек мира.
Пошаговый план восстановления
- Устранить техническую причину — убрать ошибочную блокировку в robots.txt или noindex, восстановить доступность сервера, настроить 301-редиректы.
- Запросить переиндексацию — в Google Search Console: раздел «Проверка URL» → «Запросить индексирование» для приоритетных страниц. Загрузить обновлённый Sitemap.xml в GSC.
- Ускорить обход через Sitemap — убедитесь, что Sitemap содержит все важные страницы и доступен по стандартному адресу
/sitemap.xml. - Мониторить восстановление — отслеживайте покрытие в Search Console ежедневно. Полное восстановление после технического сбоя обычно занимает несколько дней — недель в зависимости от размера сайта.
Часто задаваемые вопросы
Как быстро страницы восстанавливаются в индексе после устранения ошибки?
После устранения технической блокировки (robots.txt, noindex) восстановление зависит от частоты обхода сайта. Популярные ресурсы с высоким crawl budget переиндексируются за дни. Маленькие сайты — за 1–3 недели. Принудительный запрос индексирования через Search Console ускоряет процесс для приоритетных страниц. Если страницы отсутствовали в индексе долго из-за алгоритмических причин — восстановление займёт значительно больше времени.
Может ли сайт выпасть из индекса из-за медленного хостинга?
Да. Если сервер систематически не отвечает или отвечает с задержкой более 5–10 секунд, Googlebot сокращает частоту обхода. При длительной недоступности (более 2–3 дней) Google начинает помечать страницы как недоступные и постепенно удалять их из индекса. Качество хостинга напрямую влияет на crawl budget и стабильность присутствия в индексе.
Что такое crawl budget и как он связан с индексацией?
Crawl budget — условный «лимит» страниц, которые Googlebot обходит на сайте за определённый период. Для небольших сайтов (до 1000 страниц) crawl budget обычно не является проблемой. Для крупных сайтов с тысячами страниц важно оптимизировать его: исключить из индексации ненужные страницы (пагинация, фильтры, дубли), чтобы бот тратил ресурс на важный контент.
Влияет ли выпадение из индекса Яндекса на индексацию Google?
Нет, это независимые процессы. Google и Яндекс обходят сайты самостоятельно с помощью разных ботов (Googlebot и Яндексбот). Выпадение из индекса Яндекса не затрагивает Google и наоборот. Однако технические причины выпадения (недоступность сервера, ошибочные директивы в robots.txt) одинаково влияют на оба поисковика.