pip install llama-cpp-python 出现报错bin/libggml-cpu.so: undefined reference to `omp_get_thread_num‘ ...
先查找 libomp.so 或 libgomp.so 的路径（通常在 /usr/lib/ 或 conda 环境中）今天在配置xinference的环境中，尝试安装llama-cpp-python的环境依赖出现如下报错。然后将其加入环境变量。
·
今天在配置xinference的环境中，尝试安装llama-cpp-python的环境依赖出现如下报错
解决方法如下：
先查找 libomp.so 或 libgomp.so 的路径（通常在 /usr/lib/ 或 conda 环境中）
find / -name "libomp.so"
然后将其加入环境变量
export LDFLAGS="-L/usr/lib -lomp" # 或 -lgomp最后重新安装
不同硬件的安装方式：
-
Apple M系列
CMAKE_ARGS="-DLLAMA_METAL=on" pip install llama-cpp-python
-
英伟达显卡：
CMAKE_ARGS="-DLLAMA_CUBLAS=on" pip install llama-cpp-python
-
AMD 显卡：
CMAKE_ARGS="-DLLAMA_HIPBLAS=on" pip install llama-cpp-python
CMAKE_ARGS="-DLLAMA_CUBLAS=on" pip install llama-cpp-python安装成功
魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。
更多推荐
4
0- 0
已为社区贡献2条内容
所有评论(0)