# robots.txt for xrn.cn - 武汉水泥制品官网 # 适用于:百度、谷歌、必应、搜狗、360、豆包、抖音、Yandex 等全网爬虫 User-agent: * Allow: / Disallow: /cgi-bin/ Disallow: /admin/ Disallow: /.git/ # 优先抓取重要页面 Sitemap: https://xrn.cn/sitemap.xml # 百度专用提示 User-agent: Baiduspider Allow: / Sitemap: https://xrn.cn/sitemap.xml # 谷歌 User-agent: Googlebot Allow: / Sitemap: https://xrn.cn/sitemap.xml # 必应 User-agent: bingbot Allow: / # 360搜索 User-agent: 360Spider Allow: / # 搜狗 User-agent: Sogou web spider Allow: / # 豆包/抖音系 User-agent: Bytespider Allow: / # Yandex User-agent: YandexBot Allow: / # Crawl 延迟(秒) Crawl-delay: 1