как и/или где можно узнать какие директивы стоит закрыть от глаз поисковых машин
Наберите в любом поисковике robots.txt для wordpress и получите множество примеров этого файла для WP. Остальное додумаете сами. Только не забудьте все директивы продублировать отдельно для Яндекса:
User-agent: Yandex#
И ниже всё тоже самое, что и для всех других поисковиков.
robots.txt для wordpress
Нет «robots.txt для wordpress». Есть «robots.txt для сайта».
Вот мой пример :
User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback
Disallow: */*/feed/*/
Disallow: */feed
Disallow: /*?*
Disallow: /tag/
User-agent: Yandex
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback
Disallow: */*/feed/*/
Disallow: */feed
Disallow: /*?*
Disallow: /tag/
Host: handmade.vpoltave.net
Sitemap: http://handmade.vpoltave.net/sitemap.xml.gz
Sitemap: http://handmade.vpoltave.net/sitemap.xml
Sitemap: http://handmade.vpoltave.net/sitemap-image.xml.gz
Sitemap: http://handmade.vpoltave.net/sitemap-image.xml