要么不来,要么来了后跟d你站似的,平常几千,突然连续几天天能来几十上百万,以前还那能设置抓取频率,现在那个功能下线了,这不是有毛病么?服务器需要你来做压力测试啊? 不要问有没有流量,收录几百万,个位数来路。 食之无味弃之可惜 有没有知道咋限制谷歌蜘蛛抓取频率? 以前谷歌自己有个设置的工具,已经下线了。 蜘蛛, 频率
map $http_user_agent $user_agent_limit { default no_limit; ~^(bingbot)$ limit; } limit_req_zone $binary_remote_addr zone=my_zone:10m rate=30r/m; 我是被bing给轰炸了,限制后安分很多。
嫖嫖乐 发表于 2024-3-17 23:15 map $http_user_agent $user_agent_limit { default no_limit; ~^(bingbot)$ limit; } limit_req_zone $binary_remote_addr zone=my_zone:10m rate=30r/m; 我是被bing给轰炸了,限制后安分很多。 改成google的试试看