В далёкой версии WordPress появилась такая функция:
Также она присутствует и при установке сайта:
До версии WordPress 5.3, при включении этой галки, на вашем сайте просто создавался файл robots.txt
и в него вписывалось это Disallow: /
НО ВЕДЬ:
Открою вам секрет – я занимаюсь SEO для своих проектов с 2010 года и для меня ясно как день (даже проводил эксперименты), что при попытке скрытия сайта от поисковиков через файл robots.txt
, он ни разу не скроется и будет присутствовать в результатах поиска, не проиндексированный 😁 И правильно это делать при помощи мета тега <meta name="robots" content="noindex, ... " />
И мне казалось, что это капитанство – уточнять, через каким образом работает эта самая опция скрытия от поисковиков в WordPress – через robots.txt
или мета тег. И я был поражён, когда узнал, что через мета тег оно начало работать только в версии 5.3. Ну окей, лучше поздно, чем никогда.
Читайте про другие обновления в 5.3
Источник: misha.blog