阿里云主机上LLaMA-Factory的webui在0.0.0.0:7860侦听,无法直接打开,需要通过代理的方法访问。

在LLaMA-Factory目录下创建一个脚本文件run.sh,并加上执行权限,内容如下:

#!/bin/sh

export GRADIO_SERVER_PORT=7860
export GRADIO_ROOT_PATH=/${JUPYTER_NAME}/proxy/7860/
export CUDA_VISIBLE_DEVICES=0
export USE_MODELSCOPE_HUB=1

python src/webui.py

通过run.sh启动webui,复制你的JupyterLab页面地址,例如:

https://dsw-gateway-cn-hangzhou.data.aliyun.com/dsw-XXXXXX/lab

你的地址可能比这个长,从后往前删减到dsw-XXXXXX/为止,再加上`ide/proxy/7860/`,得到如下样式的链接:

https://dsw-gateway-cn-hangzhou.data.aliyun.com/dsw-XXXXXX/ide/proxy/7860/

用这个地址即可访问到webui界面。

这种方法无需修改源码和安装frp等工具。

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐