llamafactory模型微调相关③训练遇到的一些小问题
·
训练效果差

个人感觉,深蓝和浅蓝的线最后没合并在一起,效果会很差。
建议:加大轮数。但听说加太大也不好,要找个中间值。
格式冲突引发了训练出错和聊天时格式报错
1.训练出错
情况:训练出错
可能原因:
1.检查点有训练集,然后和现在训练的样本格式不一样。
2.再点一次开始可能就好了。
2.聊天报错
情况:2个训练集放一起,然后chat,问问题返回格式出错
可能原因:
1.检查点训练集格式不统一
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)