如何删除hugging face dowloaded的llm model?

在现在需要使用llm进行research的情况下,经常会出现,由于下载模型太多,导致内存问题,然后需要删除某些不用的模型的情况,那么如何找到hugging face的模型保存位置呢?

很简单,由于大多数人的hugging face都是自动托管的,因此 他的模型会被自动保存在cache里,我们可以找到对应的cache文件, 然后进行删除即可:

默认位置:

~/.cache/huggingface/hub

cd进去之后,可以查看所有保存的models:
在这里插入图片描述
你也可以查看某一个文件占用了多少内存空间:
du -sh + folder name 即可

然后删除不需要的地方即可:

rm -rf ~/.cache/huggingface/hub/models--meta-llama--Meta-Llama-3-8B-Instruct

如何查找一个,进程?根据他的名字:

ps aux | grep name of it
Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐