LLaMA Factory模型微调实战

项目上使用conda虚拟环境安装效果更好，官网命令供参考。测试回答，模型回答的不是很理想，所有我们需要进行微调处理。

bst@微胖子

403人浏览 · 2025-12-21 13:37:55

bst@微胖子 · 2025-12-21 13:37:55 发布

一、LLaMA Factory官网

LLaMA Factory官网地址
在这里插入图片描述

二、LLaMA Factory的安装

安装地址

git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip install -e ".[torch,metrics]"

在这里插入图片描述

项目上使用conda虚拟环境安装效果更好，官网命令供参考。

三、web界面

在这里插入图片描述

测试回答，模型回答的不是很理想，所有我们需要进行微调处理。

四、模型微调

在这里插入图片描述

训练完成后，需要导出模型：
在这里插入图片描述

五、法律大模型微调

1、准备数据集

在这里插入图片描述

2、数据集数据处理

在这里插入图片描述

格式构建出来了。

在这里插入图片描述

3、dataset_info.json文件中配置处理的数据集

在这里插入图片描述

配置后就能在web页面找到我们配置的数据集。

在这里插入图片描述

接下来就是训练模型，使用web界面进行训练。

在这里插入图片描述

Abort里面可以加载模型和导入模型，上面训练完成后，可以通过这里导出模型，然后加载模型检测训练的效果。

4、加载模型检测

在这里插入图片描述

相同问题测试，效果要好很多，比之前更加简洁就能拿到答案。

魔乐社区

魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。

更多推荐

如何快速上手 hvac：HashiCorp Vault Python 客户端零基础入门指南

**hvac** 是 HashiCorp Vault 的 Python 3.X 客户端库，专为开发者提供简单高效的 Vault 交互方式。无论你是需要管理密钥、配置身份验证，还是实现安全的秘密数据存储，hvac 都能帮助你轻松搞定 Vault 的各项操作。本文将带你零基础快速入门，从安装到基础操作，让你在几分钟内即可上手使用这个强大的工具。[![hvac 客户端 Logo](https://r

魔乐社区

提升Angular2-HN性能的7个实用技巧：让新闻加载速度飞起来

Angular2-HN是一款基于Angular构建的Progressive Hacker News客户端，专为追求高效新闻浏览体验的用户设计。本文将分享7个实用技巧，帮助你优化Angular2-HN的性能，让新闻加载速度显著提升，带来更流畅的阅读体验。## 1. 启用Service Worker缓存关键资源Service Worker是提升Angular应用性能的强大工具，它可以在后台缓存