На этих веб-сайтах https://staging.blockbutler.io и https://blockbutler.io (оба RoR на героку) Поисковые боты Google и Яндекса не могут индексировать по причине: 'robots.txt блокирует', но robots.txt в порядке . А если убрать javascript_include_tag
и stylesheet_link_tag
то страница отлично проиндексировалась. 3 дня пробовал разные тесты - ничего не помогает:
- если есть только
javascript_include_tag
с пустым application.js или толькоstylesheet_link_tag
с пустым application.scss - без индексации - добавить
gem 'rails_12factor'
- без индексации rake assets:precompile RAILS_ENV=production
и отправить статические файлы из общедоступных/активов на сервер - без индексации- поместить ресурсы в нижний колонтитул - без индексации
- обернуть ресурсы в
<noindex>
иrel: "nofollow"
- без индексации
Я действительно не знаю, что за магия происходит, и буду очень рад любым идеям.
Журналы при запуске живого теста консоли поиска Google:
производство.rb:
config.assets.js_compressor = :uglifier
config.assets.enabled = true
config.assets.version = '1.0'
config.assets.compile = true
robots.txt:
User-agent: *
Allow: /
User-agent: Yandex
Allow: /
User-agent: Google
Allow: /
Sitemap: https://blockbutler.io/sitemap.xml
p.s. извините за плохой английский - буду признателен за редактирование моего языка (: