1、安装好conda环境

linux部署anaconda-CSDN博客

2、下载llama-factory压缩包

hiyouga/LLaMA-Factory: Unified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)

3、下载unzip

apt install unzip

4、解压文件到指定目录

unzip llama-factory.zip -d /home

5、进入解压后的目录

cd /home/llama-factory/LLaMA-Factory-main

6、进入conda环境

conda avtivate python3.10.9(用python3.10的环境，不然可能不兼容)

7、下载相关依赖

pip install -e ".[torch,metrics]"

8、查看llamafactory版本

llamafactory-cli version

9、启动

llamafactory webui

10、访问

http://localhost:7860

11、下载基座模型（通过huggingface）

（1）安装下载器

pip install huggingface_hub

（2）修改下载源和默认下载位置

①在环境变量~/.bashrc中添加

export HF_ENDPOINT=https://hf-mirror.com
export HF_HOME=/home/huggingface

②更新一下

source ~/.bashrc

③检查生效了没

echo $HF_ENDPOINT

如果出现https://hf-mirror.com就代表生效了

（3）下载qwen2.5-0.7b(下载全名去官网查)

huggingface-cli download --resume-download Qwen/Qwen2.5-0.5B

12、把模型路径放进web页面

如/home/huggingface/hub/models--Qwen--Qwen2.5-0.5B/snapshots/060db6499f32faf8b98477b0a26969ef7d8b9987

13、调整参数进行训练，训练后导出