爬虫解析网页发现返回内容不全
最近爬一个论文网站,使用beautifulsoup和xpath,根据结点的指向一步步写最后发现返回的response对象的text内容不全。。。最后发现这个网站的网页是动态的,网页中的内容有些是js异步加载的。解决方法:selenium...
·
最近爬一个论文网站,使用beautifulsoup和xpath,
根据结点的指向一步步写最后发现返回的response对象的text内容不全。。。
最后发现这个网站的网页是动态的,网页中的内容有些是js异步加载的。
解决方法:selenium
https://editor.csdn.net/md/?articleId=140491486
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐



所有评论(0)