Yoo趣儿

Yoo趣儿 › Geek › 程序员 › 爬虫怎么能把整个网站给爬下来

爬虫怎么能把整个网站给爬下来

查看 578|回复 23
作者：gaoyangang   
如题：
有什么办法可以把整个网站都爬下来，包括二级页面和各种 tab, 里面包括递归和 JS 渲染，想想都头大，各位彦祖集思广益，想想办法。
weixind   
爬虫爬的好，牢饭吃得饱。
crocoBaby   
直接爬路由
hanierming   
抓取页面中的所有连接，爬到一个页面就继续访问里面的链接，无限递归。
高级一点的就是分析 URL 结构，自己拼接 URL 抓。
FengMubai   
试试 idm
erquren   
是不是为了合规
gaoyangang
OP
  
@weixind 国外网站，不慌

D0n9   
https://www.httrack.com/
iyiluo   
做个链接去重不就行了，链接去重后塞进队列里面慢慢爬，不过你爬虫爬的时候小心有人敲门
gaoyangang
OP
  
@hanierming 有些 tab 要点击，才能加载出来
下一页 »
123下一页
返回列表
您需要登录后才可以回帖 登录 | 立即注册

AD1

热门主题

热门板块

问与答分享发现分享创造奇思妙想分享邀请码商业推广优惠信息PythonPHPJavaJavaScriptNode.jsGo语言C++HTML

公告

标签|小黑屋|Yoo趣儿

GMT+8, 2025-11-18 08:57 , Processed in 0.012089 second(s), 11 queries , Gzip On, MemCached On.

Powered by Discuz! X3.2

The happiest thing in the world is to strive for an ideal.

返回顶部