transformer-xl实现文本生成
·
提供了一个效果较好的文本生成项目,该项目基于transformer-xl,并将代码修改为可以在tensorflow 2.x版本下运行,同时可以兼容tensorflow 1.x版本。提供了鲁迅小说数据集、唐诗数据集,可参考项目给出的说明,有针对性的训练对应的文本生成模型。
训练时,修改script文件下的.sh文件,将数据集、模型保存地址、注意力层、注意力头数改为自己想要的,然后运行train.py文件;
生成模式时,调用train中的inreference即可,input位置为输入文本位置。
项目代码:
text generation based on transformer-xl-tf2.3
该项目部署在Mo公有云(目前调用有点问题,暂时无法体验)
如果使用有疑问,可以在issue留言,或在这里留言,欢迎star。
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)