今天介绍一个由datawhale开源的大模型部署教程self-llm

本项目是一个围绕开源大模型、针对国内初学者、基于 AutoDL 平台的中国宝宝专属大模型教程，针对各类开源大模型提供包括环境配置、本地部署、高效微调等技能在内的全流程指导，简化开源大模型的部署、使用和应用流程，让更多的普通学生、研究者更好地使用开源大模型，帮助开源、自由的大模型更快融入到普通学习者的生活中。

【项目地址】
https://github.com/datawhalechina/self-llm.git
已包含模型~

（【学习建议】
本项目的学习建议是，先学习环境配置，然后再学习模型的部署使用，最后再学习微调。因为环境配置是基础，模型的部署使用是基础，微调是进阶。初学者可以选择Qwen1.5，InternLM2，MiniCPM等模型优先学习。）
本项目的主要内容包括：

• 基于 AutoDL 平台（可扩展，例如阿里云）的开源 LLM 环境配置指南，针对不同模型要求提供不同的详细环境配置步骤；
• 针对国内外主流开源 LLM 的部署使用教程，包括 LLaMA、ChatGLM、InternLM 等；
• 开源 LLM 的部署应用指导，包括命令行调用、在线 Demo 部署、LangChain 框架集成等；
• 开源 LLM 的全量微调、高效微调方法，包括分布式全量微调、LoRA、ptuning 等。

本项目适合以下学习者：

• 想要使用或体验 LLM，但无条件获得或使用相关 API；
• 希望长期、低成本、大量应用 LLM；
• 对开源 LLM 感兴趣，想要亲自上手开源 LLM；
• NLP 在学，希望进一步学习 LLM；
• 希望结合开源 LLM，打造领域特色的私域 LLM；
• 以及最广大、最普通的学生群体。

里面包含了当前主流的大模型部署方案，可以帮助初学者更加快速的入门大模型应用部署。如果有感兴趣的小伙伴可以去实践一下顺便点个免费的star哦~✨

转载来自转载来自这里