深度学习(五):NLP文本生成任务——对对联,根据上联,对下联

NLP文本生成任务

文本生成的场景:看图说话、写摘要。。。
在这里插入图片描述

Seq2seq&Attention机制

在这里插入图片描述
Attention本质是权重,在翻译句子时候,汇集于前面单词不同的关注度。
在这里插入图片描述

数据处理流程

其中Lookup-Table中:Word2Vector、ElMO、Glove等来训练词向量。 预训练好的Embedding。
在这里插入图片描述

LSTM——循环神经网络

在这里插入图片描述
在这里插入图片描述

注意力机制(Attention)

目的:学到的权重。
在这里插入图片描述
在这里插入图片描述

实战:对对联

在这里插入图片描述

总结

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐