大模型部署避坑指南之: undefined symbol: cublasLtGetStatusString，version libcublasLt.so.11
大模型部署避坑指南之: undefined symbol: cublasLtGetStatusString，version libcublasLt.so.11
·
问题描述
OSError: /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages/nvidia/cublas/lib/libcublas.so.11: symbol cublasLtGetStatusString, version libcublasLt.so.11 not defined in file libcublasLt.so.11 with link time reference
问题原因
找了很多解决办法，发现是在安装torch是cuda版本和nvidia版本不匹配或者找不到🤔，好多建议重新 install 某个pytorch版本或者删除cuda，又得用，又懒得卸载…
解决办法
安装了，but 找不到？那就引导他让他能找到
于是，根据报错的具体信息，把lib路径加进来：
# 根据报错信息找到文件路径
ldd /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages/nvidia/cublas/lib/libcublas.so.11
# 临时添加path
export LD_LIBRARY_PATH=/opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages/nvidia/cublas/lib/:$LD_LIBRARY_PATH
# 或者在vim ~/.bashrc中添加
export LD_LIBRARY_PATH=/opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages/nvidia/cublas/lib/:$LD_LIBRARY_PATH
魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。
更多推荐
17
0- 0
已为社区贡献7条内容
所有评论(0)