动手学深度学习之机器翻译

程序猿一帆

553人浏览 · 2020-02-18 17:00:59

程序猿一帆 · 2020-02-18 17:00:59 发布

机器翻译主要用到的是seq2seq模型，这种模型通常由encoder-decoder组成，能够实现many-to-many的映射，符合翻译任务中输入与输出句子长度不同的情况。

encoder-decoder

在这里插入图片描述

seq2seq

训练
在这里插入图片描述
很明显，可以将编码器与解码器中的那些单元置换为RNN/GRU/LSTM单元，编码器提取待翻译句子的特征，通过隐藏状态送入解码器，解码器每个单元的输入与隐藏状态进行神经单元处理得到输出，与标签计算损失，然后反向传播，训练处整个seq2seq模型。
预测
在这里插入图片描述
与训练阶段不同的是，解码器的输入除了编码器送来的隐藏状态还有上一单元的输出。

魔乐社区

魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。

更多推荐

小参数・大码力・易部署 | Qwen3.6-27B上线魔乐社区，基于昇腾的部署教程来了

继一周前模型开源发布后，千问再度开源Qwen3.6-27B —— 一个拥有270亿参数的稠密多模态模型，也是社区呼声最高的模型规格。Qwen3.6-27B 依然支持多模态思考与非思考模式，在智能体编程方面达到了旗舰级表现，全面超越前代开源旗舰 Qwen3.5-397B-A17B（总参数397B / 激活参数17B的MoE模型）。作为稠密架构，它无需MoE路由即可部署，是开发者在实用、可广泛部署规模