本节通过一个实例讲解如何使用Word Embedding实现中文自动摘要,这里使用Gensim中的word2vec模型来生成Word Embedding.

1.7.1 背景说明

使用Word Embedding方法提取关键字,主要步骤如下:

1)导入一个中文语料库

2)基于这个中文语料库,搭建word2vec模型,训练得到各单词词向量

3)导入一个文档,包括各主题及其概要描述信息,预处理该文档,并转换为词向量

4)用聚类的方法,生成各主题的若干个关键词

1.7.2 预处理中文语料库

利用jieba分词,过滤停用词,实现代码如下:

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐