安装llama-cpp-python

sudo apt-get update
sudo apt-get install g++
sudo apt-get install cmake
vim ~/.bashrc
export LD_LIBRARY_PATH=/usr/lib/x86_64-linux-gnu:$LD_LIBRARY_PATH
source ~/.bashrc
conda create -n llama-env python=3.11 -y
conda activate llama-env
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple ipykernel
python -m ipykernel install --user --name llama-env
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple llama-cpp-python
Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐