• Здравствуйте, в гугле ввел полностью ссылку на свой адрес, и появился сайт в поиске но под ним надпись
    Описание веб-страницы недоступно из-за ограничений в файле robots.txt.
    не подскажете как настроить?

Просмотр 8 ответов — с 1 по 8 (всего 8)
  • Модератор Yui

    (@fierevere)

    永子

    в корне сайта есть robots.txt ?
    покажите его содержимое

    также убедитесь что в Консоль — Настройки — Чтение
    не стоит галочка
    Попросить поисковые системы не индексировать сайт

    PS: если есть сомнения что писать в robots.txt
    можно этот файл удалить вообще, wordpress будет отдавать свой виртуальный файл, содержимое которого может меняться в зависимости от установленных плагинов (SEO/sitemap)

    User-agent: *
    Disallow: /wp-login.php
    Disallow: /wp-register.php
    Disallow: /feed/
    Disallow: /cgi-bin
    Disallow: /wp-admin
    Disallow: /wp-includes
    Disallow: /wp-content/plugins
    Disallow: /wp-content/cache
    Disallow: /wp-content/themes
    Disallow: /trackback
    Disallow: */comments
    Disallow: /category/*/*
    Disallow: */trackback
    Disallow: */*/trackback
    Disallow: */*/feed/*/
    Disallow: */feed
    Disallow: /*?*
    Disallow: /?s=
    User-agent: Yandex
    Disallow: /wp-login.php
    Disallow: /wp-register.php
    Disallow: /feed/
    Disallow: /cgi-bin
    Disallow: /wp-admin
    Disallow: /wp-includes
    Disallow: /wp-content/plugins
    Disallow: /wp-content/cache
    Disallow: /wp-content/themes
    Disallow: /trackback
    Disallow: */comments
    Disallow: /category/*/*
    Disallow: */trackback
    Disallow: */*/trackback
    Disallow: */*/feed/*/
    Disallow: */feed
    Disallow: /*?*
    Disallow: /?s=
    Host: ссфлка на хост
    Sitemap: http://ссылка на сайт/sitemap.xml.gz
    Sitemap: http://ссфлка на сайт/sitemap.xml
    Модератор Yui

    (@fierevere)

    永子

    имхо, все это избыточно и не нужно

    User-agent: *
    Crawl-delay: 2
    Disallow: /wp-admin/
    Allow: /wp-admin/admin-ajax.php
    Disallow: /wp-json/

    + Host и Sitemap директивы
    остальное (типа индексации архивов) гасится seo плагином через мета теги
    noindex

    также ошибочно запрешать wp-includes, папки плагинов и темы, содержащие js и css ресурсы

    оставил так

    User-agent: *
    Crawl-delay: 2
    Disallow: /wp-admin/
    Allow: /wp-admin/admin-ajax.php
    Disallow: /wp-json/
    Host: ссайт хоста
    Sitemap: http://сайт/sitemap.xml.gz
    Sitemap: http://сайт/sitemap.xml

    теперь только подождать надо?

    Модератор Yui

    (@fierevere)

    永子

    теперь только подождать надо?

    хороший вопрос
    от нескольких минут до нескольких недель

    индексация сайта вашего зависит от очень многих факторов,
    можете «простимулировать» в инструментах вебмастера соответствующей ПС
    или «пингом» при обновлении sitemap

    То что много времени занимает индексация я понимаю, но вот не пропала надпись, или это вместе с обновлением индексации?

    оставил так

    Тоже самое надо повторить для Яндекса

    User-agent: Yandex#
    Crawl-delay: 2
    Disallow: /wp-admin/
    Allow: /wp-admin/admin-ajax.php
    Disallow: /wp-json/
    Host: ссайт хоста
    Sitemap: http://сайт/sitemap.xml.gz
    Sitemap: http://сайт/sitemap.xml

    Понял, допишу, спасибо!

Просмотр 8 ответов — с 1 по 8 (всего 8)

Тема «Robot файл» закрыта для новых ответов.