首页 > 如何限制一下google的抓取频率
现在我的网站显示,google蜘蛛每2-3s就访问一次。造成服务器压力大。我试了robots.txt
User-agent: Googlebot Crawl-delay: 400
好像不起作用?有什么好办法没?