robots.txt как и зачем

[Densem]

Ребят, а есть какой-то относительно типовой robots для WP, при его установки на новый домен? Вроде где-то видел инфу, что там надо изначально закрыть какие-то папки и тп от индексации. Мож кто что посоветует?

[CrazyBug]

Сообщение от XPraptor

Чем tovar в поиске, так уж нужнее к индексации, чем всё остальное в поиске

это просто пример, ситуации бывают разные

Сообщение от XPraptor

за что кстати и пессимайз получить можно, если не закрыть слова search к индексу

не, когда понимаешь что делаешь не получишь

[Had]

Сообщение от Densem

Ребят, а есть какой-то относительно типовой robots для WP, при его установки на новый домен? Вроде где-то видел инфу, что там надо изначально закрыть какие-то папки и тп от индексации. Мож кто что посоветует?

Лови: (10 букф)

User-agent: *
Disallow: /cgi-bin
Disallow: /wp-
Disallow: /?
Disallow: /search/
Disallow: /author/
Disallow: /users/
Disallow: */trackback
Disallow: /xmlrpc.php
Disallow: */feed/
Disallow: */rss/
Disallow: *?s=
Disallow: *&s=
Disallow: */embed

Allow: */uploads
Allow: /*/*.js
Allow: /*/*.css
Allow: /wp-*.png
Allow: /wp-*.jpg
Allow: /wp-*.jpeg
Allow: /wp-*.gif
Allow: /wp-*.svg
Allow: /wp-*.pdf
Allow: /wp-admin/admin-ajax.php

Sitemap: http://имясайта.ru/sitemap.xml

[Had]

Densem, пожалуйста.