可用来微调方法/项目汇总

  1. Qwen github 项目自带的finetune脚本
    可以参考https://blog.csdn.net/qq_45156060/article/details/135153920
  2. PAI-DSW中微调千问大模型(阿里云的一个产品)
    https://gallery.pai-ml.com/#/preview/deepLearning/nlp/qwen_1_8b_chat
    https://zhuanlan.zhihu.com/p/677059792
  3. 魔搭社区的微调框架SWIFT已经支持了Qwen1.5全系列模型的微调和推理
    https://zhuanlan.zhihu.com/p/681662566
  4. Firefly项目微调千问大模型
    https://blog.csdn.net/sinat_37574187/article/details/132107473
    https://github.com/yangjianxin1/Firefly
  5. https://github.com/hiyouga/LLaMA-Efficient-Tuning
    改名了 https://github.com/hiyouga/LLaMA-Factory
  6. 基于llama的高star的github开源项目汇总
    (1)https://github.com/FlagAlpha/Llama2-Chinese
    (2)https://github.com/hiyouga/LLaMA-Efficient-Tuning
    改名了 https://github.com/hiyouga/LLaMA-Factory
    (3)https://github.com/yangjianxin1/Firefly
    (4)https://github.com/LinkSoul-AI/Chinese-Llama-2-7b
    (5)https://github.com/michael-wzhu/Chinese-LlaMA2

以上的项目,目前只有SWIFT框架支持Qwen-audio的微调。

ps.大语言模型基础资料

  1. 大语言模型入门
    https://www.cnblogs.com/yourenbo/p/18060256
  2. 通俗解读大模型微调(主要解释基础概念)
    https://www.wehelpwin.com/article/4231
  3. 大模型微调项目/数据集调研汇总(时间有点早了,早期的模型和项目)
    https://zhuanlan.zhihu.com/p/624079704?utm_id=0
Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐