как должно выглядеть содержание robots.txt, чтобы описание сайта отображалось в яндексе и google?
Вот мое содержание:
User-agent: *
Allow: /
сайт: fokusoff.ru
Вот мое содержание:
User-agent: *
Allow: /
сайт: fokusoff.ru
Причём тут robots.txt и описание сайта? Это две разные вещи. Файла robots.txt вообще может не быть, он не обязателен.
Для начала убери свои там "уйти со страниц" Поверь люди раз зайдут и после этого не будут заходить. А вот как выглядит мой робот тхт.
User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback
Disallow: */*/feed/*/
Disallow: */feed
Disallow: /*?*
Disallow: /tag/
User-agent: Yandex
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback
Disallow: */*/feed/*/
Disallow: */feed
Disallow: /*?*
Disallow: /tag/
Host: ТУТ твой домен без WWW .ru
Sitemap: [ссылка заблокирована по решению администрации проекта] домен. ru/sitemap.xml.gz
Sitemap: [ссылка заблокирована по решению администрации проекта] домен. ru/sitemap.xml