# =============================================================================
# 51吃瓜网 — 站群 robots.txt（相对路径，多域名通用）
# 全站允许抓取 | Sitemap 相对路径，爬虫自动拼接当前访问域名
# 更新：运行 python scripts/sitemap_robots_gen.py
# =============================================================================

User-agent: *
Allow: /

User-agent: Baiduspider
Allow: /
Crawl-delay: 1

User-agent: Sogou web spider
Allow: /
Crawl-delay: 1

User-agent: 360Spider
Allow: /

User-agent: Googlebot
Allow: /

User-agent: Bingbot
Allow: /

Sitemap: /sitemap.xml