遇到了一个比较奇怪的现象,一个站昨天收录放出了40多条内页,但是蜘蛛才13条,放出的内页更新时间都是昨天的。注:放出的内页更新时间都在计算时间内,不存在说是前天抓取的情况。 下面是宝塔上的蜘蛛统计和自写的蜘蛛统计工具 都对应的上。 百度是不是上线了很多其他ip段的蜘蛛,有了解的分享下来 image.png (54.34 KB, 下载次数: 0) 下载附件 保存到相册 3小时前 上传 image.png (112.77 KB, 下载次数: 0) 下载附件 保存到相册 3小时前 上传 蜘蛛, 更新时间
小千 发表于 2023-3-13 18:49 蜘蛛今天抓的,获取到到时间因子,也显示昨天时间,按照昨天时间显示 我日。。。。。是这个道理。。。我还以为又上线了其他ip段。。。那个多少小时前就是更新时间,不是快照时间了。。。。
無剑 发表于 2023-3-13 18:50 我日。。。。。是这个道理。。。我还以为又上线了其他ip段。。。那个多少小时前就是更新时间,不是快照时间了。。。。 对 以前快照在的时候,快照时间是蜘蛛抓取时间,百度显示时间是获取页面的时间因子