Программное обеспечение

Как сделать лучший robots txt для сайта wordpress?

Для того, чтобы сделать действительно самый лучший robots txt для сайта wordpress нужно просто установить специальный плагин, который сделает идеальный robots txt, подробнее узнайте на этом блоге: dvryaboff.ru, там есть поиск по сайту, напишите свой вопрос robots txt для сайта wordpress и получите подробнейший ответ.
Жеребцов Виталий
Жеребцов Виталий
138
Лучший ответ
Для CMS таких они уже готовые в сети валяются.
А если прям совсем лучший - то сделать собственноручно, думая головой.
Данил Игнатьев
Данил Игнатьев
53 499
Добрый день, я считаю, что в этой статье довольно хорошо описано, как его можно сделать и почему именно так, а не иначе.
http://bookamba.ru/seo/kak-nastroit-robots-txt-dlya-svoego-sajta
User-agent: *
Disallow: /cgi-bin # классика...
Disallow: /? # все параметры запроса на главной
Disallow: /wp- # все файлы WP: /wp-json/, /wp-includes, /wp-content/plugins
Disallow: *?s= # поиск
Disallow: *&s= # поиск
Disallow: /search # поиск
Disallow: /author/ # архив автора
Disallow: *?attachment_id= # страница вложения. Вообще-то на ней редирект...
Disallow: */trackback
Disallow: */feed # все фиды
Disallow: */embed # все встраивания
Disallow: */page/ # все виды пагинации
Allow: */uploads # открываем uploads
Allow: /*/*.js # внутри /wp- (/*/ - для приоритета)
Allow: /*/*.css # внутри /wp- (/*/ - для приоритета)
Allow: /wp-*.png # картинки в плагинах, cache папке и т. д.
Allow: /wp-*.jpg # картинки в плагинах, cache папке и т. д.
Allow: /wp-*.jpeg # картинки в плагинах, cache папке и т. д.
Allow: /wp-*.gif # картинки в плагинах, cache папке и т. д.
#Disallow: /wp/ # когда WP установлен в подкаталог wp

Host: ваш сайт

Sitemap: ваша карта