在过去的一个月: Googlebot:Gemini 和 Googlebot 的抓取次数达到 45 亿次GPTBot (ChatGPT):5.69 亿次抓取Claude:3.7 亿次抓取AppleBot:3.14 亿次抓取PerplexityBot:2440 万次抓取 GPTBot、Claude、AppleBot 和 PerplexityBot 合计抓取了近 13 亿次,约占 Googlebot 总抓取量的 28%+。 虽然AI 爬虫尚未达到 Googlebot 的规模,但他们已占据网络爬虫流量的很大部分。 爬虫, 之多