lxml 是 一个HTML/XML的解析器,主要的功能是如何解析和提取 HTML/XML 数据。

lxml和正则一样,也是用 C 实现的,是一款高性能的 Python HTML/XML 解析器,我们可以利用之前学习的XPath语法,来快速的定位特定元素以及节点信息。

需要安装C语言库,可使用 pip 安装:pip install lxml

基本使用:

我们可以利用他来解析HTML代码,并且在解析HTML代码的时候,如果HTML代码不规范,他会自动的进行补全。示例代码如下:# 使用 lxml 的 etree 库

from lxml import etree

text = '''

  • first item
  • second item
  • third item
  • fourth item
  • fifth item # 注意,此处缺少一个  闭合标签     
'''

#利用etree.HTML,将字符串解析为HTML文档

html = etree.HTML(text)

# 按字符串序列化HTML文档

result = etree.tostring(html)

print(result)

输入结果如下:

  • first item
  • second item
  • third item
  • fourth item
  • fifth item

可以看到。lxml会自动修改HTML代码。例子中不仅补全了li标签,还添加了body,html标签。

从文件中读取html代码:

除了直接使用字符串进行解析,lxml还支持从文件中读取内容。我们新建一个hello.html文件:

  • first item
  • second item
  • third item
  • fourth item
  • fifth item

然后利用etree.parse()方法来读取文件。示例代码如下:from lxml import etree# 读取外部文件 hello.htmlhtml = etree.parse('hello.html')

result = etree.tostring(html, pretty_print=True)

print(result)

总结:解析html字符串:使用lxml.etree.HTML进行解析。示例代码如下:htmlElement = etree.HTML(text)

print(etree.tostring(htmlElement,encoding='utf-8').decode("utf-8"))

解析html文件:使用lxml.etree.parse进行解析。示例代码如下:htmlElement = etree.parse("tencent.html")

print(etree.tostring(htmlElement, encoding='utf-8').decode('utf-8'))

这个函数默认使用的是XML解析器,所以如果碰到一些不规范的HTML代码的时候就会解析错误,这时候就要自己创建HTML解析器。parser = etree.HTMLParser(encoding='utf-8')

htmlElement = etree.parse("lagou.html",parser=parser)

print(etree.tostring(htmlElement, encoding='utf-8').decode('utf-8'))

作者:编程小王子AAA

链接:https://www.jianshu.com/p/a8064ce79e94

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐