Просмотр 8 ответов — с 1 по 8 (всего 8)
  • User-agent: *
    Disallow: /cgi-bin
    Disallow: /wp-admin
    Disallow: /wp-includes
    Disallow: /wp-content/plugins
    Disallow: /wp-content/cache
    Disallow: /wp-content/themes
    Disallow: */trackback
    Disallow: */feed
    Disallow: /*?
    Disallow: /author/
    Disallow: /transfers.js
    Disallow: /go.php
    Disallow: /xmlrpc.php

    User-agent: Yandex
    Disallow: /cgi-bin
    Disallow: /wp-admin
    Disallow: /wp-includes
    Disallow: /wp-content/plugins
    Disallow: /wp-content/cache
    Disallow: /wp-content/themes
    Disallow: */trackback
    Disallow: */feed
    Disallow: /*?
    Disallow: /author/
    Disallow: /transfers.js
    Disallow: /go.php
    Disallow: /xmlrpc.php
    Host: СЮДА ПИСАТЬ ДОМЕН. Типо MYSITE.RU без www и http

    User-agent: Googlebot
    Allow: *.css
    Allow: *.js
    Allow: /wp-includes/*.js
    Disallow: /cgi-bin/
    Disallow: /wp-admin/
    Disallow: /wp-includes/
    Disallow: /wp-content/cache
    Disallow: */trackback
    Disallow: */feed
    Disallow: /author/
    Disallow: /transfers.js
    Disallow: /go.php
    Disallow: /xmlrpc.php
    Disallow: /*?
    Host: СЮДА ПИСАТЬ ДОМЕН. Типо MYSITE.RU без www и http

    Модератор Yui

    (@fierevere)

    永子

    Host: volgograd-advokat.rf

    уверены что там должно быть именно это?

    если домен кириллический, то его надо транслировать в punycode

    а так домена .rf не существует вообще

    волгоград-адвокат.рф

    xn—-7sbbagddakc1ed2bchz7b.xn--p1ai

    так.

    Модератор Yui

    (@fierevere)

    永子

    Host: xn—-7sbbagddakc1ed2bchz7b.xn--p1ai

    да , так

    Спасибо.

    решено Всех Благодарю.

    Поменял файл. Яндекс нашел ошибку.
    https://yadi.sk/i/iuzdPSwUsLAgZ

    Мне нужно убрать 47 строку?

    Модератор Yui

    (@fierevere)

    永子

    Host: работает для всех user agent, перечислять его индивидуально для каждого UA не нужно, да , уберите

Просмотр 8 ответов — с 1 по 8 (всего 8)
  • Тема «Помогите создать robots.txt» закрыта для новых ответов.