Selenium爬虫遇到 数据是以 JSON 字符串的形式包裹在 Script 标签中,

假设Script标签下代码如下:

{

"user": {

"isLogin": true,

"userInfo": {

"id": 123456,

"nickname": "LiMing",

"intro": "人生苦短,我用python"

}

}

}

此时drive.find_elements_by_xpath('//*[@id="DATA_INFO"] 只能定位到元素,但是无法通过.text方法,获取Script标签下的json数据

from bs4 import BeautifulSoup as bs

import json as js

#selenium获取当前页面源码

html = drive.page_source

#BeautifulSoup转换页面源码

bs=BeautifulSoup(html,'lxml')

#获取Script标签下的完整json数据,并通过json加载成字典格式

js_test=js.loads(bs.find("script",{"id":"DATA_INFO"}).get_text())

#获取Script标签下的nickname 值

js_tes

到此这篇关于Selenium+BeautifulSoup+json获取Script标签内的json数据的文章就介绍到这了,更多相关Selenium+BeautifulSoup获取json内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐