User-agent: * # общие правила для роботов, кроме Яндекса и Google,
# т.к. для них правила ниже
Disallow: /cgi-bin # папка на хостинге
Disallow: /wp- # все файлы WP: /wp-json/, /wp-includes, /wp-content/plugins
Disallow: *?s= # поиск
Disallow: *?add-to-cart= # добавление товара
Disallow: *&add-to-cart=
Disallow: *&s= # поиск
Disallow: *?p=
Disallow: /search/ # поиск
Disallow: /author/ # архив автора
Disallow: /cart/ # архив автора
Disallow: /users/ # архив авторов
Disallow: */trackback # трекбеки, уведомления в комментариях о появлении открытой
Disallow: */stylesheet # странная папка
Disallow: */rss # rss фид
Disallow: */embed # все встраивания
Disallow: /xmlrpc.php # файл WordPress API
Disallow: */amp
Disallow: */?amp
Disallow: *utm*= # ссылки с utm-метками
Disallow: *openstat= # ссылки с метками openstat
Allow: */uploads # открываем папку с файлами uploads
Allow: */feed # все фиды
Allow: *.js
Allow: *.css
User-agent: GoogleBot # правила для Google (комментарии не дублирую)
Disallow: /cgi-bin
Disallow: /wp-
Disallow: /wp/
Disallow: *?s=
Disallow: *?p=
Disallow: *&s=
Disallow: *?add-to-cart= # добавление товара
Disallow: *&add-to-cart=
Disallow: /search/
Disallow: /author/
Disallow: /cart/ # архив автора
Disallow: /s/ # кеш css
Disallow: /users/
Disallow: */trackback
Disallow: */stylesheet
Disallow: */rss
Disallow: */embed
Disallow: */wlwmanifest.xml
Disallow: /xmlrpc.php
Disallow: *utm*=
Disallow: *openstat=
Allow: */uploads
Allow: /*/*.js # открываем js-скрипты внутри /wp- (/*/ - для приоритета)
Allow: /*/*.css # открываем css-файлы внутри /wp- (/*/ - для приоритета)
Allow: /wp-*.png # картинки в плагинах, cache папке и т.д.
Allow: /wp-*.jpg # картинки в плагинах, cache папке и т.д.
Allow: /wp-*.jpeg # картинки в плагинах, cache папке и т.д.
Allow: /wp-*.gif # картинки в плагинах, cache папке и т.д.
Allow: /wp-admin/admin-ajax.php # используется плагинами, чтобы не блокировать JS и CSS
Allow: */amp
Allow: /?amp
Allow: */feed
Allow: *.js
Allow: *.css
User-agent: Yandex # правила для Яндекса (комментарии не дублирую)
Disallow: /cgi-bin
Disallow: /wp-
Disallow: /wp/
Disallow: *?s=
Disallow: *?p=
Disallow: *?add-to-cart= # добавление товара
Disallow: *&add-to-cart=
Disallow: *&s=
Disallow: /search/
Disallow: /author/
Disallow: /users/
Disallow: */amp
Disallow: */?amp
Disallow: /s/ # кеш css
Disallow: /cart/ # архив автора
Disallow: */trackback
Disallow: */stylesheet
Disallow: */rss
Disallow: */embed
Disallow: */wlwmanifest.xml
Disallow: /xmlrpc.php
Allow: */uploads
Allow: /*/*.js
Allow: /*/*.css
Allow: /wp-*.png
Allow: /wp-*.jpg
Allow: /wp-*.jpeg
Allow: /wp-*.gif
Allow: /wp-admin/admin-ajax.php
Allow: */feed
Allow: *.js
Allow: *.css
# Укажите один или несколько файлов Sitemap (дублировать для каждого User-agent
# не нужно). Google XML Sitemap создает 2 карты сайта, как в примере ниже.
Sitemap: https://xn---52-5cdaam4bxdmxgg1e1d.xn--p1ai/sitemap_index.xml
Host: https:/xn---52-5cdaam4bxdmxgg1e1d.xn--p1ai